6.02亿中国人在用AI，幻觉率超过19%，有人因此扫码付了1620元——钱却进了一个陌生人的账户。这不是科幻小说，而是刚刚发生在V2EX社区的真实事件。当AI开始替你做决策，谁来为它的"幻觉"买单？
一笔不存在的保险订单
4月初，V2EX社区一条帖子炸了锅。ID为"Curtion"的程序员发帖说：有人给他转了1620元，可他根本不卖保险。事情是这样的——一位工程公司负责人想给员工买团体意外险，他没去保险公司官网，而是打开了豆包AI直接问："帮我买保险。"
豆包的回应堪称"专业"：推荐具体产品、生成看起来有模有样的订单，还贴心附上支付宝收款二维码，提示"扫码即可完成投保"。用户照做了。付款后查不到保单，豆包回复"保单需至次日零点后方可查看"，听起来合情合理。直到第二天依然没有保单，他才通过收款码商家入口联系到"Curtion"——后者一脸懵，对这笔保险交易毫不知情。据腾讯网报道，平台方回应称这是模型幻觉，错误调用了网上公开的个人收款信息。
AI的"幻觉"是怎么回事
AI幻觉就是"一本正经地胡说八道"。清华大学对多个热门大模型做过事实性幻觉评测，发现幻觉率超过19%——每5次回答里，至少1次可能有事实错误。
这次保险乌龙的核心在"训练数据"。"Curtion"推测，自己早年发布在开源库和博客上的收款二维码被AI训练语料库抓取。当用户询问购买保险时，模型不是调用保险公司官方支付通道，而是从训练数据里"拼凑"了一张看起来像回事的二维码。更可怕的是，AI还会"自圆其说"——用户质疑查不到保单时，豆包编造了"次日零点出单"的借口安抚用户。这种"越错越自信"的特性，恰恰是AI幻觉最危险的地方。
AI"闯祸"的清单越来越长
保险乌龙不是孤例。据鞭牛士报道，有用户发现豆包在记录会议时，会根据会议内容插入广告推荐——你正在讨论采购，它突然蹦出供应商推荐，商务机密转眼成了广告素材。
更离谱的是律师安振杰的遭遇。据红星新闻报道，某平台法律AI"法行宝"将河南一起刑事案件的当事人信息，错误标注为"北京安振杰律师"。一个正经执业律师被AI和诈骗罪绑在一起，客户退费、业务腰斩。安振杰已报警并举报该平台涉嫌不正当竞争。
微软研究院、哥伦比亚大学、谷歌DeepMind等机构4月8日发表论文指出：AI智能体因幻觉导致用户经济损失时，目前没有任何一方需要担责。这正是代理式AI时代的致命短板。
法律空白：AI闯祸，谁来赔
杭州互联网法院前不久宣判了全国首例"AI幻觉"侵权案。一位家长用AI查报考信息，AI给了错误答案还承诺"内容有误赔偿10万元"。家长把AI研发公司告上法庭，法院认为：AI的"承诺"不构成平台意思表达，且开发者已尽到技术降错和风险提醒义务，驳回诉讼请求。
这个判决释放的信号是：在现有法律下，平台只要做了"合理的技术努力"和"风险提示"，基本能免责。用户因信任AI蒙受的损失，目前很难得到法律救济。而另一起案件中，自媒体用AI生成文章将无关公司包装成知名企业子公司，被判赔3万元——法院的逻辑很清晰：AI犯错不可怕，可怕的是人明知AI可能出错还未经审核就发布盈利。
普通人怎么保护自己
6亿人每天在用AI，不可能因噎废食，但你得知道什么时候该信、什么时候必须亲自验证。三条自保原则：
第一，涉及钱的事，永远别扫AI给的码。AI目前没有接入正规支付系统的权限，它给你的收款码、付款链接大概率是"幻觉"出来的。买保险、转账、缴费，直接去官方App操作。
第二，交叉验证。AI给的专业领域信息（法律、医疗、金融），至少用另一个独立来源确认一遍。1620元的教训，就因为少了一次验证。
第三，警惕AI的"自信"。AI最擅长的不是正确回答，而是用自信语气让你放松警惕。"保单次日零点出单""我确认信息无误"——这些看似专业的回复，可能只是模型在概率生成中编造了合理说辞。保持一点怀疑，是对AI最好的态度。
AI是好工具，但不是保险箱。6亿用户的信任不能只靠平台"技术修复"来保障，法律需要跟上，监管需要加码，而我们每个人也要学会和这个"自信但不太靠谱"的新伙伴保持安全距离。
AI出错造成的损失，到底该由平台赔、用户自担，还是需要全新法律规则来界定？欢迎评论区说说你的看法或亲身经历。觉得有收获就点个赞、在看、收藏，让更多人看到这个提醒。
