生成式人工智能 （AI） 幻覺（即人工智能提供不正確或捏造的信息）可以提供好處，特別是在藥物發現等創造性和探索性領域。

人工智能幻覺有四種常見類型（圖 1）。并非所有類型都同樣可取或有用。

1. 一般矛盾包括上下文沖突和句子矛盾。例如，人工智能可以通過提供有關足球前鋒如何適應特定比賽情況的信息來響應對前向轉換器原理圖的請求。

2. 當輸出忽略輸入時，就會出現提示矛盾。如果 AI 回復“周年紀念日快樂，爸爸媽媽”，而提示是給侄女的畢業祝賀。

3. 當人工智能模型呈現不正確的信息時，就會出現事實矛盾，就好像它是真實的，比如“托馬斯·愛迪生發明了互聯網”。

4. 當輸出中包含不相關或隨機的細節時，就會出現不相關或隨機的幻覺。例如，在創建風景圖像時，人工智能會添加不屬于的隨機元素，例如一張臉似乎漂浮在空中。

圖 1.四種常見的人工智能幻覺類型。（圖片：Signity)

為什么人工智能會出現幻覺？

人工智能幻覺既多于傳統意義上的錯誤，也少于錯誤。它們有時被稱為“虛構”或“捏造”，以更好地反映其本質?；糜X一詞通常意味著強調法學碩士的不可預測性以及它們對每個提示做出反應的傾向。

人工智能僅限于其訓練，不知道它不知道什么。這可能適用于訓練技術和訓練數據的局限性、模型設計的局限性、缺乏現實世界的背景或同理心以及許多其他因素（圖 2）。

圖 2.人工智能幻覺的多種原因的例子。（圖片來源：Kanerika)

使用 RAG、TAG 和 RAFT 最大限度地減少幻覺

檢索增強生成 （RAG）、表增強生成 （TAG） 和檢索增強微調 （RAFT） 可以通過幫助人工智能做出超出初始訓練的響應并將響應建立在可驗證的外部知識上，而不是僅僅依賴其潛在過時的訓練數據，從而最大限度地減少人工智能幻覺。這三種技術在響應生成過程中為模型提供了額外的上下文。

RAG 是通過從文檔和網頁等非結構化數據源檢索和合并信息來實現的，以改進 AI 響應。TAG 正在利用初始訓練數據庫之外的數據庫中的結構化數據。

RAFT 設計用于動態信息環境。RAFT 中的微調是一種人工智能持續學習，其中對 LLM 本身（而不僅僅是即時響應）進行了修改。

人工監督和 HITL

人機交互 （HITL） 方法可用于預防或利用人工智能幻覺。HITL 將人類的專業知識和判斷力融入人工智能流程中。在實施 HITL 時，主題專家 （SME） 會審查和糾正 AI 輸出，驗證決策，并向模型提供持續反饋。

HITL 和 SME 的整合對于高風險應用尤為重要，因為在這些應用中，錯誤可能會產生重大的負面后果。中小企業增加了人工智能無法提供的常識、情境意識和批判性思維。

HITL 還可用于確保使用人工智能的科學調查和工程應用遵守法律、道德和監管標準，這在醫學和刑事司法等領域至關重要。

利用幻覺

在涉及藥物發現或材料開發等領域的科學研究中，HITL 方法通過故意激發模型富有想象力的輸出來利用人工智能幻覺。

例如，幻覺可能是由于提出需要訓練數據中沒有知識的問題引起的，其中鼓勵人工智能在其事實知識庫之外“發揮創造力”。

科學家可以利用引發的幻覺來制定新的、可檢驗的假設。人類知識和直覺的結合，加上人工智能快速產生誘發幻覺的能力，可以顯著加快和擴展發現過程。

總結

人工智能幻覺有多種來源。在大多數情況下，幻覺無法消除，但 RAG、TAG 和 RAFT 等工具可以幫助最大限度地減少幻覺的產生。HITL 可用于消除許多人工智能幻覺，并可用作科學發現過程的一部分，引導幻覺進入富有成效的道路并加速新見解的發展。