別把 AI 實驗室當成「黑盒」：從工程視角看 LLM 交付的三個深坑

在許多企業的 AI 落地過程中，最常見的誤區是將 LLM 交付視為一個簡單的「Prompt 工程」或「API 呼叫」。很多團隊在 Demo 階段表現驚豔，但一旦進入生產環境（Production），就會陷入一種詭異的循環：調優 Prompt $\rightarrow$ 某個 Case 好了 $\rightarrow$ 三個舊 Case 崩了 $\rightarrow$ 繼續調優。

這種現象本質上是因為團隊缺乏一套確定性的工程交付標準，而試圖用「煉金術」來替代「工業流程」。在實際的 AI Lab 交付中，有三個深坑是絕大多數團隊都會踩的。

深坑一：缺乏「黃金資料集」（Golden Dataset）的幻覺

很多開發者習慣於透過「隨機抽檢」來驗證模型效果。比如，寫完一個 Prompt 後，手動輸入 5-10 個典型問題，如果回答得不錯，就認為模型「可用」了。

工程教訓：
隨機抽檢無法量化回歸測試。當你為了修復一個邊緣案例（Edge Case）而修改 Prompt 時，你根本不知道這次修改是否破壞了之前已經正確的 90% 的情境。

正確做法：
建立一個包含 $\ge 100$ 個典型情境的黃金資料集。每個樣本必須包含：
1. Input: 標準輸入。
2. Expected Output: 理想的答案（或關鍵判定点）。
3. Evaluation Logic: 是透過 LLM-as-a-Judge 打分，還是透過正規表示式匹配關鍵字，亦或是透過程式碼斷言（Assertion）。

每次修改 Prompt 後，必須全量跑一遍資料集，計算 Pass Rate。只有當新版本在不降低整體 Pass Rate 的前提下解決了特定 Bug 時，才允許合併。

深坑二：過度依賴單一模型的「全能感」

很多專案在設計之初就試圖用一個最強的模型（如 GPT-4o 或 Claude 3.5 Sonnet）解決所有問題。雖然這在開發初期最快，但在工程化階段會帶來巨大的成本壓力和延遲問題。

工程教訓：
強模型在處理簡單任務時是極大的浪費，且其複雜的推理路徑有時反而會導致在簡單指令上的「過度思考」（Overthinking），產生不必要的冗餘輸出。

正確做法：
實施 Router-based Architecture（路由架構）。
- 分類層 (Classifier): 使用輕量級模型（如 GPT-4o-mini 或 Llama-3-8B）將請求分類為：簡單查詢、複雜推理、格式轉換、敏感攔截。
- 執行層 (Executor): 根據分類結果分發給不同的 Prompt 和模型組合。
- 簡單查詢 $\rightarrow$ 低成本模型 + 精簡 Prompt $\rightarrow$ 低延遲回應。
- 複雜推理 $\rightarrow$ 高效能模型 + CoT (Chain of Thought) Prompt $\rightarrow$ 高品質結果。

這種架構不僅能降低 60%-80% 的 Token 成本，還能透過針對性優化不同鏈路的 Prompt 來提升整體穩定性。

深坑三：忽略了「非確定性」帶來的系統級崩潰

LLM 的輸出具有隨機性（即使 temperature=0 也不能完全消除）。很多工程師將 LLM 的輸出直接餵給下游的 JSON 解析器或資料庫介面，導致系統頻繁出現 JSONDecodeError 或 SQL 注入風險。

工程教訓：
永遠不要相信 LLM 回傳的格式是完美的。只要規模足夠大，它一定會某一次忘記閉合括號或者在 JSON 前面加上一句 “Here is the result:”。

正確做法：
引入 Guardrail 層（護欄機制） 和 結構化強制約束：
1. Schema Enforcement: 使用 Pydantic 或 JSON Schema 進行強型別校驗。如果校驗失敗，立即觸發自動重試機制（Retry with Error Feedback），將解析錯誤回饋給模型讓其自我修正。
2. Output Sanitization: 在進入下游系統前，透過正規表示式或專用清洗函數剔除所有 Markdown 程式碼區塊標記（如 ```json ... ```）。
3. Fallback Strategy: 為每一個關鍵節點設計兜底方案。如果 LLM 在三次嘗試後仍無法輸出合法格式，系統應回傳一個預定義的安全預設值而非直接拋出 Exception 給使用者。

總結

AI 工程化的核心在於：用確定性的流程去管理非確定性的輸出。

不要試圖尋找那個「完美的 Prompt」，而要建構一套能夠快速迭代、量化評估並具備魯棒性容錯能力的交付流水線。當你不再依賴於「感覺不錯」，而是依賴於 「Pass Rate 從 82% 提升到 87%」 時，你的 AI 專案才真正走出了實驗室，進入了工業界。