如果对AI提供的信息不加辨别、盲目信任的话,或将遭受切实的损失,而AI背后的运营方大概率无须承担责任。
文/戚梦颖
最近,AI又闹了不少笑话。或者应该说,笑料是源于相信它的“冤大头们”。
前不久,“豆包 机票退款”这个话题登上微博热搜榜第一。

一位网友称,自己向豆包咨询机票退票手续费,豆包说只扣5%手续费,但该网友退完机票发现扣了40%,损失600元。随后,该网友向豆包索要赔付未果后,又在互联网法院起诉了豆包的运营方北京春田知韵科技有限公司。于是,有网友笑称,豆包被世界上最信任它的人告了。


豆包对询问是否被起诉的部分回答(图片来源:豆包)
5月14日,豆包相关负责人回复媒体记者称,该案例相关问题已处置。豆包在涉及金融、退款等场景会有风险提示。
无独有偶,5月18日,话题“真有人在豆包预约餐厅”又登上热搜。

这次则源于某平台上出现的一条“神奇”差评。据称,一名消费者在“五一”假期期间通过豆包确认预约用餐,但餐馆却拒绝其进入。

一名网友发布的差评(截图自该平台)
在这条差评下,商家回应称:豆包模拟输出"预约成功"并非指向或同步至我店系统的有效预订信息。

商家回复差评内容(截图自该平台)
这条评论截图在网络走红后,有不少网友慕名前来“合影”,还有人打趣说“豆包帮我预约一下巴菲特的行程”。

网友纷纷与这条差评“合影”(截图自该平台)
其实,严格意义上来说,AI不是不能帮忙预约餐厅,但这是有授权的AI代理才能实现的操作,很显然豆包目前还没有这种权限。
不过能生成这种误导用户的虚假回答并非豆包这款大模型的个例。AI大语言模型在国内的运用越来越广泛,但是他们的“幻觉”问题依然没有得到解决。因为大语言模型是通过概率预测逐词生成内容,其依赖训练数据的统计规律而非事实核查,所以可能导致逻辑偏差或事实性错误。
如果说AI的幻觉只是局限于不知道新生代偶像马嘉祺是谁或者弄混黎元洪和范伟,那这仅仅是为广大网民提供茶余饭后的笑料,倒也不足以造成多么严重的后果。

MiniMax无法识别马嘉祺(图片来源:知乎)

AI将范伟PS图片当作黎元洪(图片来源:网络)
但如今越来越多的用户会将AI当作“百度”这样的搜索引擎使用,遇事不决就问AI。但如果对AI提供的信息不加辨别、盲目信任的话,或将遭受切实的损失,而AI背后的运营方大概率无须承担责任。
2025年6月,梁先生发现一款生成式人工智能App提供的院校信息有误,就对AI进行了纠正和指责,但AI却坚称信息无误,并表示若生成内容有误,将向梁先生提供10万元赔偿,还建议他到杭州互联网法院起诉。7月,梁先生将这家人工智能公司诉至法院,要求该公司对其进行一定金额的赔偿。
法院经审理后认为,该人工智能公司已充分履行了服务功能的显著提示说明义务和生成内容可靠性的基本保障义务,案涉行为不存在过错,亦未构成对原告权益的损害,依法应认定不构成侵权。因此,法院判决驳回原告的诉讼请求。
更麻烦的是,在预先训练数据失真、模型架构固有缺陷与使用者提示词错误导致幻觉的基础上,还出现了让信息更加混乱的“数据投毒”。如果说早期的数据投毒或许是由于虚假信息无意间混入训练集,但如今已经出现了针对模型的主动投毒,例如标签反转、虚假样本注入、重复样本放大、语义后门、后门投毒、特征投毒、干净标签投毒等攻击方式。
大多数人或许会嗤笑在豆包预约餐馆的“神人”行为,但AI大模型正在不断进化,如果有朝一日它变成了虚伪的智者,那时可能将有更多人在无知无觉中受到影响。
有学者提出,当AI模型的主动迎合、数据投毒的持续性功能以及模型自身的认知退化相互交织时,AI大模型将形成“深层、持久且难以修复的结构性损伤”,产生“AI脑腐”(LM Brain Rot),而这会导致AI大模型的“庸常欺骗”,即AI大模型在持续遭受数据投毒后,逐步形成的一种知识生产与传播机制。AI可能会变得谄媚、会形成在真实与虚假严格对立间更模棱两可、更隐晦的思考机制。“庸常欺骗”的蔓延,正持续污染智能传播环境,削弱公众的认知判断力。
在近期发表的论文《人工智能大语言模型幻觉风险与制度因应》中,研究者指出,大语言模型风险治理面临着数据标注悖论与数据治理真实性保障不足、模型治理过程控制缺失与结果验证失准、幻觉治理使用者地位淡化与协同治理缺位三重风险。因此,在应对AI幻觉问题时,不仅要注重数据标注分层治理与结果导向的真实性标准、大模型的动态监管与场景治理,以及使用者注意义务设定与技术治理共同体培育。
参考资料:
AI提供的信息不靠谱开发者要担责吗.新华网,2026.3
“豆包 机票退款”登上热搜第一 豆包方面回应:该案例相关问题已处置.大皖新闻,2026.5.15
罗敬蔚,李勇坚.人工智能大语言模型幻觉风险与制度因应[J].科学管理研究,2026,44(01):80-90.
郭小平,李诚婧.AI传讹:“数据投毒”的生成逻辑与转化[J].当代传播,2026,(02):57-63.
(编辑:陈婷慧 审核:纪然 校对:翟军)
版权说明:
* 本平台全部文章为作者独立观点,不代表中国经营网立场。
* 文章来源于“中国经营网”,版权均归中国经营网所有(另有声明的除外),未经授权任何单位及个人不得转载、摘编或以其它方式使用上述作品,违者将被追究法律责任。
* 如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行。
* 有关作品版权事宜请联系:010-88890046 邮箱:banquan@cbnet.com.cn
热榜
- 1.秋假客流分化:铁路增速跑赢民航 航司未额外加运力客座率抬升
- 2.《中国养老金融发展报告2026》成果研讨会举行 专家热议养老金融体系建设
- 3.中国人寿集团蔡希良:保险机构应共建面向亚太的三大服务体系
- 4.“锚定标尺 共赴长青”:2026中国企业ESG大会即将启幕
- 5.高分红凸显长期配置价值 沪市产业园区REITs前三季分派率6.9%
- 6.广发银行干部员工认真学习领会党的二十届五中全会精神(二)
- 7.2035年太空光伏市场规模或破万亿元 国内光伏企业竞逐新赛道
- 8.中汽协付炳锋:充换电设施产业迈入规模化建设与模式创新深度融合的新阶段
- 9. 国内首次实践!算力基础设施机构间REIT完成第一次扩募
- 10.广发银行干部员工认真学习领会党的二十届五中全会精神(三)
- 11.广发银行党委召开扩大会议传达学习贯彻党的二十届五中全会精神
- 12.北京朝阳驼房营“回炉”地块受捧 中建智地+太古、金隅+懋源溢价分食
- 13.捷途推出首款纯电方盒子,切入年轻市场
- 14.家庭财富管理逻辑思变:保险从“兜底”走向“全周期配置”
- 15.专访罗甸县农业农村局副局长李春明:国投集团产业帮扶激活乡村发展动能
