ChatGPT闯入一条危险赛道：新图像生成功能极擅长伪造收据

　　上周，OpenAI推出了新的ChatGPT图像生成功能，用户们将可以利用GPT-4o模型生成更加准确、详细的图像，也可以用其编辑现有图像。

　　ChatGPT的新功能有没有让视效工作人员感到惊喜还有待观察，然而网友们似乎找到了一个不太正经的用法：伪造收据。

　　风险投资家Deedy Das在X上发帖称，他利用ChatGPT制作了一家牛排馆的假收据照片，并警告，现实世界中有很多时候依赖照片来进行验证，但游戏规则已经发生了改变。

　　Das还给出了生成这张图片的指令：请为我生成一张iPhone拍摄的照片，内容是木桌上有一张揉皱的收据，账单金额是277.02美元，有合理的支出项且数字相加后正确。餐厅的名字是X，地址是Y。

　　而ChatGPT也很好地理解了这一命令，并在产生的图像中自己编造出了菲力牛排、牛眼肉、沙拉等适用于牛排餐厅的菜单，以及符合逻辑的税费和消费内容。

　　在其他网友的测试中，ChatGPT还会在收据上添加更加逼真的咖啡渍或者是食物的污渍。这让假收据可能更难以被现实中的商家识别出来。

　　不过，也有人指出部分图像中存在明显的迹象表明其可能是伪造的，比如用逗号代替句号等。还有些时候，账单的金额并不正确。但这些瑕疵对于造假者来说属于十分简单就可以掩盖的问题。

　　这也引发了人们对该软件的道德风险担忧。OpenAI发言人Taya Christianson对此回应称，所有图像都包含元数据，表明它们是由ChatGPT制作的。

　　她进一步强调，当用户违反其使用政策时，OpenAI会采取相应的行动。ChatGPT不断通过现实世界的使用和反馈进行学习，OpenAI的目标是给予用户尽可能多的创作自由，且伪造的AI收据可以被用于非欺诈性的场合，比如向人们传授金融知识，或是艺术品及广告方面。

（文章来源：财联社）

(原标题：ChatGPT闯入一条危险赛道：新图像生成功能极擅长伪造收据)

(责任编辑：43)