AI 會一本正經地講錯：認識「幻覺」，以及企業該怎麼防
用過 AI 的人多半有過這種經驗：問它一個問題，它回答得流暢、有條理、語氣篤定，但仔細一查，裡面有一段是錯的，甚至引用了根本不存在的資料。這種現象一般稱為 AI 的「幻覺」。它不是偶發的故障，而是這類技術的運作方式帶來的特性；理解它，才知道 AI 該放在流程的哪個位置。
為什麼 AI 會「編」出答案
目前常見的大型語言模型，本質上是根據大量文字學到的規律，一段一段地預測「接下來最可能出現什麼」。它擅長產生通順、像樣的文字，但這和「確認內容為真」是兩件不同的事。遇到訓練資料裡沒有、或資訊不足的問題時，模型不一定會說不知道，而是可能產生一段聽起來合理的內容。模型的知識也有時間上的限制：它是用某個時間點之前的資料訓練的，問到之後發生的事，若沒有另外提供最新資料，就可能用舊資訊作答，或乾脆自行推測。
這也解釋了為什麼幻覺特別容易出現在幾種情境：問很新的事、問很冷門的細節、要求提供精確數字或出處，以及問題本身就帶著錯誤前提。語氣越篤定，不代表越可靠。舉個常見的例子：請 AI 整理某項法規的重點，它可能列出一份條號、內容都很完整的清單，其中一條卻是把兩條規定混在一起，或引用了已經修正的舊版本。對不熟悉法規的人來說，這樣的錯誤幾乎看不出來。
降低風險的幾個實際做法
幻覺無法完全消除，但可以透過流程設計把影響壓低：
- 讓它根據你提供的資料回答：把產品規格、內部文件交給 AI 當依據，比讓它憑印象回答準確得多，也比較容易查證。
- 要求附上來源：請 AI 標明答案出自哪份文件、哪一段，查核的人就有跡可循；沒有出處的說法，一律當作待確認。
- 依風險決定把關程度：內部草稿可以寬鬆，對外的報價、合約、醫療或法律相關內容，必須有人逐項核對。
- 留意數字與專有名詞：日期、金額、人名、法規條號最常出錯，也最容易造成麻煩，值得特別檢查。
AI 是很好的起草者，但不是可靠的證人；把它放在有人複核的位置，才能用得安心。
這對你的生意意味著什麼
知道 AI 會講錯，不是為了少用它，而是為了用對地方。幻覺的風險有多大，取決於錯誤會不會直接送到客戶面前。把 AI 定位成幫忙整理、起草、歸納的助手，再由熟悉業務的人做最後確認，多數情況下既能保有效率，也守得住品質。反過來，若讓它在沒有把關的情況下直接對外回應，一次錯誤就可能抵銷長期累積的信任。也可以在內部建立簡單的回報機制：同仁發現 AI 答錯時記錄下來，累積一段時間後，就知道哪些類型的問題特別需要留意，流程也能跟著調整。
導入 AI 時，與其問「它準不準」，不如問「出錯時誰會發現」。創智苑在規劃 AI 落地時，會把查證與複核的環節一起設計進流程裡。
