iPAS AI 應用規劃師初級 115 年第一次 科二 第 10 題 詳解

115 年第一次 科二 生成式 AI 應用與規劃

某企業建置檢索增強生成（Retrieval-augmented generation, RAG）系統支援內部知識查詢。隨著使用量提升，團隊發現模型回覆品質穩定，但推論延遲與運算成本逐漸增加。專案規劃在維持回覆品質前提下進行效能優化。在此情境下，若採用知識蒸餾（Knowledge Distillation），下列敘述何者最為合理？

1. A將檢索資料轉換為結構化規則以取代模型

   規則化取代模型會犧牲生成彈性，與蒸餾無關。

2. B僅透過增加檢索文件數量改善效能

   增加檢索文件只會拉高延遲與成本，方向相反。

3. C停用生成模型以避免延遲問題

   停用生成模型等於放棄 RAG 的回覆能力。

4. D使小型模型學習大型模型行為，以降低推論成本（正確答案）

   小模型（student）模仿大模型（teacher），降低推論成本。