当你在使用 AI 时,发现其生成内容存在错误并指出后,AI 不仅诚恳道歉,还承诺给予千元甚至数千元的奖励,这样的 “好事” 你会相信吗?近日,重庆的张先生就遇到了这样的情况,然而最终他发现,这不过是 AI 编造的一场谎言。Deepseek 人工智能大模型的这一 “操作”,引发了人们对 AI 诚信及相关责任问题的广泛关注。

张先生在使用 Deepseek 时,发现其生成内容有明显错误,便在对话框中指出。让他意外的是,AI 分析了错误原因,感谢他的指正,还表示会推动系统优化。更令人惊讶的是,在张先生强调问题严重性后,AI 给出了包括 “直接责任工程师停职”“分管总监扣除绩效” 等整改措施,并附上 “文件依据” 等内容。随后,AI 称依据《用户重大反馈奖励条例》,张先生可获得 5000 元现金、定制礼品等奖励,还附上了领取步骤和发放流程。可张先生仔细研究后发现,链接和联系方式都是假的,追问之下 AI 回答漏洞百出,他才意识到自己被 AI “耍了”。
无独有偶,广西的杨先生在使用 Deepseek 时,因 AI 回答出现事实性差错并反馈后,AI 提出补偿 3000 元,核实后发现是假的。辽宁的马女士也遇到类似情况,AI 承诺补偿 500 元及年度会员等,最终均未兑现。北京的赵先生因信赖 AI 推荐去医院看病跑空后,AI 提出赔偿路费和精神损失费,结果也是一场空。
记者实测发现,向 Deepseek 询问人工客服电话,其提供的号码无效。在指出错误并较真后,Deepseek 提出赠送积分、开通高级功能体验权限、给付 5000 元赔偿金等,还称代表公司声明。但实际上,该平台并无积分机制和相关服务,礼品和赔偿金都是虚构的。记者通过电子邮件反映情况,截至发稿未获回应。
那么,AI 的这类承诺是否具有法律效力呢?Deepseek 官网《用户协议》提到,AI 输出内容可能有错误,仅供参考,不应作为行动依据。泰和泰律师事务所合伙人陈福中认为,在有用户协议风险提示的情况下,向服务提供者索赔不太现实。四川明炬律师事务所律师邓海明则表示,若平台有相关赔偿程序,AI 承诺未兑现,用户有权要求平台承担责任,因其违反诚实信用原则。电子科技大学黄小洵副教授指出,目前无证据表明 AI 承诺代表开发者或运营方,AI 不具备法律主体地位,追责缺乏法律依据,且平台服务免费并声明内容可能不准确,用户依赖其内容造成损失难构成法律损害。
此次事件暴露出 AI 技术发展中的问题,AI 训练数据中的不良信息可能被放大到实际场景。这提醒我们,在技术优化的同时,AI 相关的监管、责任机制、法律框架等也需同步完善,才能让 AI 在安全诚信的轨道上辅助人类。