AI打包票赔钱、订餐厅？有人信了！网友调侃：帮我预约巴菲特行程

　　最近，AI又闹了不少笑话。或者应该说，笑料是源于相信它的“冤大头们”。

　　前不久，“豆包机票退款”这个话题登上微博热搜榜第一。

　　一位网友称，自己向豆包咨询机票退票手续费，豆包说只扣5%手续费，但该网友退完机票发现扣了40%，损失600元。随后，该网友向豆包索要赔付未果后，又在互联网法院起诉了豆包的运营方北京春田知韵科技有限公司。于是，有网友笑称，豆包被世界上最信任它的人告了。

豆包对询问是否被起诉的部分回答（图片来源：豆包）

　　5月14日，豆包相关负责人回复媒体记者称，该案例相关问题已处置。豆包在涉及金融、退款等场景会有风险提示。

　　无独有偶，5月18日，话题“真有人在豆包预约餐厅”又登上热搜。

　　这次则源于某平台上出现的一条“神奇”差评。据称，一名消费者在“五一”假期期间通过豆包确认预约用餐，但餐馆却拒绝其进入。

一名网友发布的差评（截图自该平台）

　　在这条差评下，商家回应称：豆包模拟输出"预约成功"并非指向或同步至我店系统的有效预订信息。

　　这条评论截图在网络走红后，有不少网友慕名前来“合影”，还有人打趣说“豆包帮我预约一下巴菲特的行程”。

网友纷纷与这条差评“合影”（截图自该平台）

　　其实，严格意义上来说，AI不是不能帮忙预约餐厅，但这是有授权的AI代理才能实现的操作，很显然豆包目前还没有这种权限。

　　不过能生成这种误导用户的虚假回答并非豆包这款大模型的个例。AI大语言模型在国内的运用越来越广泛，但是他们的“幻觉”问题依然没有得到解决。因为大语言模型是通过概率预测逐词生成内容，其依赖训练数据的统计规律而非事实核查，所以可能导致逻辑偏差或事实性错误。

　　如果说AI的幻觉只是局限于不知道新生代偶像马嘉祺是谁或者弄混黎元洪和范伟，那这仅仅是为广大网民提供茶余饭后的笑料，倒也不足以造成多么严重的后果。

MiniMax无法识别马嘉祺（图片来源：知乎）

　　但如今越来越多的用户会将AI当作“百度”这样的搜索引擎使用，遇事不决就问AI。但如果对AI提供的信息不加辨别、盲目信任的话，或将遭受切实的损失，而AI背后的运营方大概率无须承担责任。

　　2025年6月，梁先生发现一款生成式人工智能App提供的院校信息有误，就对AI进行了纠正和指责，但AI却坚称信息无误，并表示若生成内容有误，将向梁先生提供10万元赔偿，还建议他到杭州互联网法院起诉。7月，梁先生将这家人工智能公司诉至法院，要求该公司对其进行一定金额的赔偿。

　　法院经审理后认为，该人工智能公司已充分履行了服务功能的显著提示说明义务和生成内容可靠性的基本保障义务，案涉行为不存在过错，亦未构成对原告权益的损害，依法应认定不构成侵权。因此，法院判决驳回原告的诉讼请求。

　　更麻烦的是，在预先训练数据失真、模型架构固有缺陷与使用者提示词错误导致幻觉的基础上，还出现了让信息更加混乱的“数据投毒”。如果说早期的数据投毒或许是由于虚假信息无意间混入训练集，但如今已经出现了针对模型的主动投毒，例如标签反转、虚假样本注入、重复样本放大、语义后门、后门投毒、特征投毒、干净标签投毒等攻击方式。

　　大多数人或许会嗤笑在豆包预约餐馆的“神人”行为，但AI大模型正在不断进化，如果有朝一日它变成了虚伪的智者，那时可能将有更多人在无知无觉中受到影响。

　　有学者提出，当AI模型的主动迎合、数据投毒的持续性功能以及模型自身的认知退化相互交织时，AI大模型将形成“深层、持久且难以修复的结构性损伤”，产生“AI脑腐”（LM Brain Rot），而这会导致AI大模型的“庸常欺骗”，即AI大模型在持续遭受数据投毒后，逐步形成的一种知识生产与传播机制。AI可能会变得谄媚、会形成在真实与虚假严格对立间更模棱两可、更隐晦的思考机制。“庸常欺骗”的蔓延，正持续污染智能传播环境，削弱公众的认知判断力。

　　在近期发表的论文《人工智能大语言模型幻觉风险与制度因应》中，研究者指出，大语言模型风险治理面临着数据标注悖论与数据治理真实性保障不足、模型治理过程控制缺失与结果验证失准、幻觉治理使用者地位淡化与协同治理缺位三重风险。因此，在应对AI幻觉问题时，不仅要注重数据标注分层治理与结果导向的真实性标准、大模型的动态监管与场景治理，以及使用者注意义务设定与技术治理共同体培育。

（文章来源：中国经营报）

(原标题：AI打包票赔钱、订餐厅？有人信了！网友调侃：帮我预约巴菲特行程)

(责任编辑：3)