“整家公司都得了 AI 幻觉”：两千赞的当头棒喝

“我敢说，现在就有整家公司处在 AI 幻觉里。”HashiCorp 创始人 Mitchell Hashimoto 一句话，在 HN 上炸出两千多赞和几百条讨论。说的不是模型幻觉，是人被 AI 哄出的幻觉。这篇把这种病讲清楚，顺带开药方。

先说结论：AI 幻觉传染给人，分三步。第一步，AI 给出自信满满的答案；第二步，人不验证就信了；第三步，整个团队基于没验证的东西做决策。一层层加码，等爆雷时已经离真相十万八千里。最可怕的是，每一步的人都觉得自己在“拥抱 AI”。

三个症状可以自查。第一，会议里“AI 说”出现的次数超过“数据说”，拍板依据从证据变成输出。第二，没人愿意讲“我验证过了”，因为验证显得“不够 AI native”。第三，翻车后复盘，第一句是“AI 骗了我”，而不是“我没验证”。中了两条以上，就得吃药了。

药方也有三味。第一味，关键决策必须有人类验证环节，签字的人要真看过，不能只当橡皮图章。第二味，给验证留时间，排期里把“人审”算进去，别让速度把质量挤死。第三味，鼓励讲真话，谁发现 AI 在胡说八道，重重有赏，而不是被笑跟不上时代。

中国读者天天见：各种“All in AI”的口号满天飞，冷静的人反而被说保守。记住一句话：拥抱 AI 和迷信 AI 是两回事，前者赚钱，后者交学费。你们公司有 AI 幻觉的症状吗？记住：把“已验证”三个字写进流程，贴在墙上。清醒不是保守，是对结果负责。共勉。下次开会听到“AI 说”时，多问一句“验证过吗”，这五个字能救一个项目。别怕显得不合群。

最后一句：工具越自信，人越要清醒。AI 负责给建议，人负责拍板，这个顺序别反。你最近一次亲手验证 AI 的答案，是什么时候？ 来源｜Hacker News 热议，https://news.ycombinator.com/item?id=48153379