AI识别蘑菇致人中毒,给我们敲响了什么警钟?
一个看似寻常的周末,一位用户在小区里发现了几朵野生蘑菇,顺手拍照让豆包AI识别。AI回复说"这是鸡腿菇",但同时也提示"极易和剧毒的大青褶伞混淆,强烈建议不要食用"。
用户还是吃了。然后中毒了。
6月5日,话题#不要相信豆包识别的野生蘑菇#冲上微博热搜,抖音集团副总裁李亮迅速回应:已联系当事用户,并提醒大家,AI目前还在发展阶段,涉及人身安全问题务必多方咨询求证。
野生蘑菇识别需谨慎,切勿轻信AI判断
这不是AI的第一次"误判"
类似事件并非首次发生。2024年,就有用户因轻信AI识别结果而误食毒蘑菇的新闻。但这一次,事件引发了更广泛的讨论:
- AI工具的安全边界在哪里?
- 用户使用习惯是否存在误区?
- 平台责任如何界定?
抖音副总裁李亮的回应很直接:"AI还在发展阶段,涉及人身安全问题务必多方求证。"这句话道出了核心问题——AI不是万能的,尤其在涉及生命安全的场景中。
AI技术在快速发展,但安全边界仍需谨慎
我们该如何正确使用AI?
第一,AI是辅助工具,不是决策者。它可以提供参考,但最终决策权在人。尤其在涉及健康、安全、法律等专业领域,必须咨询专业人士。
第二,关注AI的"不确定性提示"。豆包在回复中已经提示了风险,但用户选择性忽略了。这说明我们需要培养"风险意识"——看到AI提示"可能"、"建议"、"不确定"等关键词时,要多问几个为什么。
第三,建立"多方验证"的习惯。AI给出一个答案,我们至少要再查两个来源。对于野生蘑菇这种高风险事物,更要请教专业机构或人士。
行业启示:AI安全需要多方共治
此次事件对整个AI行业都是一个警示。平台需要在产品设计中更明确地标注风险提示,用户需要建立正确的使用习惯,监管层面也需要制定相应的规范。
好消息是,越来越多的AI产品开始在敏感领域添加风险提示。比如医疗健康类问题,AI会明确标注"仅供参考,请咨询医生";金融投资类问题,会提示"不构成投资建议"。
蘑菇识别领域也应该如此。或许AI在识别结果旁,应该用更醒目的方式提示用户:"野生蘑菇识别存在极高风险,误食可能致命,请勿轻易尝试。"
写在最后
这次事件没有造成更严重的后果,是不幸中的万幸。但它给我们敲响了警钟:
AI正在深刻改变我们的生活方式,但"改变"不等于"替代"。在涉及生命安全的场景中,专业人士的判断仍然不可替代。
对用户来说,建立"AI是助手,不是专家"的认知,是安全使用AI的第一步。
对平台来说,在追求产品体验的同时,如何更好地保障用户安全,是需要持续思考的问题。
毕竟,技术的边界,就是安全的底线。
本文仅为科普讨论,不构成任何专业建议。野生蘑菇识别难度极高,请勿自行采摘食用。
