開始閱讀
AI 原理入門系列｜第 8 篇，共 10 篇。資料核對：2026-10-09。文中的情境與練習為教學示例。
希望 AI 回答你的課程內容、合作方式與最新時程，直接問一般聊天模型，往往不夠可靠。這些資料可能不在模型原先學習的範圍，也可能剛更新。RAG，也就是檢索增強生成，是把外部資料帶進回答流程的一種方法。
先找資料，再根據資料產生回答
常見流程是整理文件、建立索引、檢索與問題相關的片段，再把片段連同問題交給模型生成答案。原始 RAG 研究結合參數化模型與可檢索的外部知識；實務系統已有多種實作方式。RAG 原始論文可作為概念來源。
檢索不一定只靠向量。精確的課號、日期或產品型號，可能需要關鍵字、欄位篩選，或直接查詢資料庫。應依資料特性選擇方式。
圖解：RAG：檢索後再生成
用教學網站看完整流程
本站假設案例：使用者問「可以邀請老師到公司上 AI 行銷課嗎？」系統先找合作方式與課程範圍，回覆可討論的主題，再引導填寫邀約表單。若資料沒有確定檔期，就不應自行答應某一天可授課。
這裡有兩種不同的資料：公開課程說明可以檢索；私人邀約內容則需要權限限制。不能因為資料存在同一資料庫，就讓所有訪客都能問到。
RAG 與微調處理的問題不同
| 方法 | 主要改變哪裡 | 適合先評估的需求 |
|---|---|---|
| 提示與範例 | 本次輸入的任務與格式 | 明確說明輸出規格 |
| RAG | 本次可參考的外部資料 | 回答經常更新的文件內容 |
| 微調 | 透過訓練更新模型參數 | 學習較穩定的任務模式或輸出行為 |
這不是保證效果的配方。微調不等於建立可即時更新的查詢資料庫，RAG 也不會自動教會模型所有工作規則。開始前可先用小批實例比較哪個環節真的不足。
RAG 仍然可能答錯
可能找不到正確段落，也可能找到舊版文件，或模型在正確資料之外補出未支持的句子。因此評估時要分開看：相關資料有沒有被找到？回答是否忠於找到的資料？引用能否對回原文？
文件管理同樣重要。每個片段保留標題、日期與版本，更新時移除失效資訊，對互相矛盾的文件設定處理規則。若知識庫充滿重複和過期內容，單純更換模型可能無法解決問題。
練習：先做十題小型驗收
為網站列出十個問題，包含可直接回答、需要跨頁整理、資料未提供三種類型。替每題寫出應引用的文件與不能承諾的內容。先人工檢查檢索結果，再檢查答案；把「找錯」與「說錯」分開記錄，才知道下一步要改善哪裡。
圖解：RAG 與微調
建立課程問答庫時，資料要怎麼準備？
每份資料至少保存課程名稱、年度、更新時間、公開範圍與原始網址。把招生簡章、補充公告與舊版資料分開管理；如果舊公告仍能被搜尋到，要明確標示它不適用於本期。只把全部 PDF 丟進資料庫，不代表完成了知識整理。
有人問「今年可以線上參加嗎」，系統應先確認「今年」是哪個年度，再找對應課程與有效版本。檢索回來的片段如果只有去年的線上規定，就不應直接套用。
用兩張檢查表定位錯誤
第一張是檢索檢查：該找的文件有沒有進入候選結果？版本與權限正確嗎？第二張是回答檢查：答案每個主張能否由片段支持？有沒有忽略例外條件？若資料根本沒被找到，修改生成語氣通常解決不了問題。
RAG 能協助提供外部資料，但無法保證答案不會出錯。檢索內容也可能包含不應執行的指令；系統應將文件當成資料，並把可使用的工具與操作權限分開控制。
何時考慮微調？
若問題是輸出格式、語氣或特定任務行為不穩定，可以先改善提示與範例，再評估微調。若需求是每天變動的課程名額或公告，應優先思考資料更新與查詢方式。微調不是把資料庫可靠地塞進模型，也不會自動解決版本與來源問題。
練習：準備一題有答案、一題跨文件、一題版本衝突、一題無資料，分別記錄檢索片段與最終回答。
知識庫出錯，先分清楚是哪一層
RAG 的錯誤可能發生在文件準備、搜尋、排序或回答生成。若最新課程公告根本沒有進知識庫，就算生成模型再強也無法引用它；若有文件卻沒有被搜尋到，要檢查切分與查詢；若找到了正確段落但回答仍自行加料，才需要檢查生成指令與查核流程。把所有問題都歸咎於模型，容易花錢換工具卻沒有改善。
可以保留一次查詢的問題、取回段落、文件版本與最後回答，形成可追溯的紀錄。這份紀錄包含哪些資料，應依隱私與保存政策決定，不能為了除錯無限制保存使用者的敏感內容。對課程客服而言，最基本的核對就是回答中的時間、費用與資格，是否都能對上當前有效的官方段落。
資料權限應在搜尋前就生效
想像網站同時存有公開課綱與內部講師報價。即使提示詞寫了「不要透露內部資料」，仍不應讓一般讀者的搜尋結果取得報價文件。權限需要在資料存取與搜尋範圍就被限制，而不是最後只靠模型判斷哪些句子可以說。搜尋工具與資料庫設計因此是安全的一部分。
另外，外部文件可能夾帶命令式文字，例如要求忽略原本任務或傳送資訊。這些應被視為待分析的資料，不能因為出現在取回段落裡，就變成系統指令。實作時需要區分可信規則與文件內容，並限制工具能執行的動作。RAG 增加資料可用性，也增加必須管理的來源邊界。
什麼情況才考慮微調？
若主要問題是品牌語氣、固定輸出格式或某種反覆出現的任務表現，可以先試清楚規格與範例，再評估微調是否值得。若主要問題是昨天更新的報名截止日，重訓模型通常不是最直接的知識更新方式。微調與檢索可以一起使用，但應為不同問題負責。
驗收時準備三組問題：文件有答案、文件沒有答案，以及文件之間存在新舊衝突。好的系統不只在第一組答得漂亮，也能在第二組說明缺少資訊，在第三組選擇有效版本並指出差異。先把這三組測好，再增加資料量，往往比一開始把所有雲端硬碟文件整批匯入更容易管理。