“整家公司都得了 AI 幻覺”：兩千讚的當頭棒喝

“我敢說，現在就有整家公司處在 AI 幻覺裏。”HashiCorp 創始人 Mitchell Hashimoto 一句話，在 HN 上炸出兩千多贊和幾百條討論。說的不是模型幻覺，是人被 AI 哄出的幻覺。這篇把這種病講清楚，順帶開藥方。

先說結論：AI 幻覺傳染給人，分三步。第一步，AI 給出自信滿滿的答案；第二步，人不驗證就信了；第三步，整個團隊基於沒驗證的東西做決策。一層層加碼，等爆雷時已經離真相十萬八千里。最可怕的是，每一步的人都覺得自己在“擁抱 AI”。

三個症狀可以自查。第一，會議裏“AI 說”出現的次數超過“數據說”，拍板依據從證據變成輸出。第二，沒人願意講“我驗證過了”，因爲驗證顯得“不夠 AI native”。第三，翻車後覆盤，第一句是“AI 騙了我”，而不是“我沒驗證”。中了兩條以上，就得喫藥了。

藥方也有三味。第一味，關鍵決策必須有人類驗證環節，簽字的人要真看過，不能只當橡皮圖章。第二味，給驗證留時間，排期裏把“人審”算進去，別讓速度把質量擠死。第三味，鼓勵講真話，誰發現 AI 在胡說八道，重重有賞，而不是被笑跟不上時代。

中國讀者天天見：各種“All in AI”的口號滿天飛，冷靜的人反而被說保守。記住一句話：擁抱 AI 和迷信 AI 是兩回事，前者賺錢，後者交學費。你們公司有 AI 幻覺的症狀嗎？記住：把“已驗證”三個字寫進流程，貼在牆上。清醒不是保守，是對結果負責。共勉。下次開會聽到“AI 說”時，多問一句“驗證過嗎”，這五個字能救一個項目。別怕顯得不合羣。

最後一句：工具越自信，人越要清醒。AI 負責給建議，人負責拍板，這個順序別反。你最近一次親手驗證 AI 的答案，是什麼時候？ 來源｜Hacker News 熱議，https://news.ycombinator.com/item?id=48153379