提示詞的「上下文錨點」策略：如何透過精準的引用機制消除 LLM 的幻覺與漂移

在處理長文件分析、複雜程式碼重構或多輪對話時，你是否遇過這種情況：模型在對話開始時表現完美，但隨著上下文增加，它開始「忘記」之前的關鍵約束，或者在引用原文時出現微妙的篡改（幻覺）？

這種現象被稱為上下文漂移（Context Drift）。即使是擁有超長上下文視窗的模型，其注意力機制在面對海量資訊時也會產生權重衰減。

要解決這個問題，我們需要引入「上下文錨點」（Context Anchors）策略。

什麼是上下文錨點？

上下文錨點是指在 Prompt 中建立一套顯式的、可索引的引用體系，強制模型在生成答案前先執行「定位 $\rightarrow$ 提取 $\rightarrow$ 映射」的邏輯鏈路，而不是依賴機率性的語義聯想。

簡單來說，就是把 LLM 從一個「憑記憶說話的作家」，變成一個「拿著索引查資料的研究員」。

實作指南：建構錨點體系

1. 為輸入內容建立「物理索引」

不要直接餵入一段長文字，而是給文字打上標籤。

❌ 錯誤做法：

「請分析以下文章並總結核心觀點：[此處貼上 3000 字文章]」

✅ 正確做法（錨點化）：

「請分析以下文章。為了確保準確性，我已將文章分為若干段落並標註了 ID（如 [P1], [P2]）。在你的回答中，每提到一個觀點，必須在括號內標註來源段落 ID。

[P1] 文章開頭關於...的內容...
[P2] 關於...的論述...
...」

2. 定義「引用協議」 (Citation Protocol)

明確規定模型如何使用這些錨點。一個高效的協議應包含：
- 強制要求：所有事實性陳述必須帶錨點。
- 格式規範：例如 (Source: [P1])。
- 衝突處理：如果不同段落觀點衝突，要求模型列出所有相關錨點並對比。

3. 引入「驗證步驟」 (Verification Step)

在 Prompt 的末尾增加一個自我審計環節：

「在輸出最終答案前，請先在內部執行以下檢查：
1. 我引用的每一個事實是否都能在對應的 [Px] 段落中找到原話？
2. 是否有任何結論是基於我的常識而非提供的文字？如果有，請將其標記為【推論】。」

應用場景與避坑指南

✅ 適用場景

• 法律/醫療文件分析：對準確率要求極高，不允許任何幻覺。
• 複雜程式碼庫重構：需要跨檔案引用特定函式定義時。
• 長篇小說設定維護：確保角色行為符合前文設定的具體細節。

❌ 不適用場景

• 創意寫作/腦力激盪：過強的約束會扼殺模型的发散思維，導致輸出僵硬。
• 簡單問答/常識查詢：增加索引會浪費 Token 並降低回應速度。

Checklist：你的 Prompt 是否具備錨點能力？

• [ ] 輸入內容是否被結構化（分段/分塊）並賦予唯一 ID？
• [ ] 是否明確要求模型在輸出中包含這些 ID？
• [ ] 是否定義了引用格式（如 [Ref: X]）？
• [ ] 是否要求模型區分「原文事實」與「模型推論」？

Gotchas & Tips

1. Token 壓力：為每段添加 [P1] 會略微增加 Token 消耗，但在長文中這部分開銷遠低於因幻覺導致重新生成而浪費的成本。
2. 模型能力閾值：該策略在 GPT-4o, Claude 3.5 Sonnet 等強邏輯模型上效果極佳；但在輕量級模型（如 Llama-3-8B）上可能會出現忘記標註 ID 的情況，此時需要透過 Few-Shot（提供幾個正確標註的範例）來強化習慣。
3. 動態更新：如果在多輪對話中更新了資訊，記得告訴模型：「現在 [P5] 的內容已被更新為...」，以維持錨點的即時性。