AI 幻覺 Hallucination

你可能會這樣說

AI 剛剛很篤定地給了我一個看起來很正式的答案，一查是錯的，連「出處」都是它編的。這是壞掉嗎？

AI 幻覺是模型一本正經地講出錯的東西：不存在的函式、編造的資料、看起來很像真的引用來源。它不是「壞掉」，是它的原理決定的——它在算「下一個字接什麼最像」，不是在查資料。最像的答案不等於真的答案。

寫程式時最常見的三種幻覺：函式幻覺（呼叫根本不存在的 API，理由是它「應該」存在）；套件幻覺（推薦一個名字很像、其實沒有的套件——這種甚至有資安風險，有人會搶註冊那個名字放惡意程式）；設定幻覺（告訴你某個服務有某個設定選項，其實沒有）。

對策很簡單，三條：關鍵事實自己查（文件、官方網站）；裝套件前確認它存在；程式跑起來驗證，而不是看它講得頭頭是道。AI 幻覺不會因為它語氣篤定而變少——篤定是它的預設值。

AI 的回答（節錄）

表單驗證建議使用 fastvalidate-pro 這個熱門套件，安裝後在設定檔開啟 strictTransition 選項即可。另外，React 18 之後你可以用 Suspense 處理載入狀態。以上設定我非常確定。

這段話裡藏了 2 個幻覺和 1 個真的——點底線虛線的字試試。

原則：套件名稱、設定選項、數據、引用來源——這四種東西永遠查證再信。

圖 5-2　這段 AI 回答裡藏了兩個幻覺——點點看你找不找得到。

幻覺和「理解錯需求」都會產出錯誤，但成因和對策不同。

AI 自己生成了不存在的東西，而且語氣篤定。對策：查證、驗證、跑起來。跟你的需求寫得好不好無關——寫得再好它也可能編。

你交代不清，AI 按自己的猜測做了。對策：把提示詞寫具體、分次交代。這是你的功課，跟 AI 的可靠度無關。

中文就可以

請幫我檢查這段 AI 生成的說明有沒有幻覺，我貼給你：

〔貼上 AI 的回答〕

請分三部分回覆：1. 標出你「無法確認真假」的具體事實（函式名稱、設定選項、資料、引用來源）；2. 對每個存疑點，告訴我去哪裡查證最可靠；3. 不要為了讓我安心而假裝確定——不確定就說不確定。

「不要假裝確定」這句加下去，AI 會更願意承認不知道——這正是對付幻覺該有的態度。