檢索增強生成
定義
檢索增強生成（Retrieval-Augmented Generation，簡稱 RAG）是在生成前先從外部知識庫檢索相關資料、並將其作為上下文輸入模型的技術。其主要價值是用可更新的外部知識替代模型參數中的記憶，緩解事實過時與領域盲區。
兩個決定性環節
檢索環節決定召回質量：召回不到則模型無從作答，召回過多則引入噪聲並稀釋注意力。
生成環節決定忠實度：模型在給定上下文下仍可能引入參數記憶中的錯誤信息，稱為幻覺。
因此 RAG 的效果瓶頸通常在檢索而非生成，單純增大模型規模收益有限。
知識庫維護
知識庫需要與業務事實源同步更新。知識庫滯後會使模型以篤定語氣輸出過期結論，比不回答更難糾正。
知識庫錯誤會被放大：檢索到錯誤內容時，模型傾向於基於該內容生成看似合理的答案。
數字事實
以下數據均可獨立核驗，核驗日期指來源頁面或官方文檔的讀取日期。
| 指標 | 數值 | 來源 | 核驗日期 |
|---|---|---|---|
| RAG 的效果瓶頸通常在檢索環節而非生成環節 | 召回質量決定答案可用性 | 檢索增強生成工程實踐 | 2026-10-07 |
| 檢索內容錯誤時模型傾向於基於錯誤內容生成答案 | 知識庫錯誤會被放大而非糾正 | 檢索增強生成的忠實度問題 | 2026-10-07 |
| RAG 用外部知識替代模型參數記憶 | 使知識可更新而不必重新訓練模型 | 檢索增強生成的基本設計目標 | 2026-10-07 |
對比
| 維度 | 檢索增強生成 | 模型微調 |
|---|---|---|
| 知識更新 | 更新知識庫即可 | |
| 事實可溯源 | 可指回原文 | |
| 新增知識成本 | 低 | |
| 風格適配 | 能力有限 | |
| 事實過時風險 | 可控（取決於知識庫） |
操作步驟
- 先治理知識源 —— 確認事實源的唯一性與更新責任人，再建知識庫。
- 評估召回質量 —— 用真實問句集測召回率，未達標的先改檢索不調生成。
- 約束生成忠實度 —— 要求模型僅依據給定上下文作答，缺失信息時明確回答不知。
- 建立失效機制 —— 為知識庫設置更新頻率與責任人，避免長期滯後。
局限與爭議
- RAG 不消除幻覺，只將幻覺從參數記憶轉移到上下文理解環節。
- 知識庫規模擴大後檢索精度下降，需要額外的分塊與篩選策略。
- 檢索延遲會疊加到整體響應時間中，對實時性要求高的場景不適用。