iPAS AI 應用規劃師初級 114 年第四次 科二 第 42 題 詳解

114 年第四次 科二 生成式 AI 應用與規劃

某金融機構導入檢索增強生成（Retrieval-Augmented Generation, RAG）模型，用於客服文件查詢與自動回覆。由於大型模型運算成本過高，若考慮引入知識蒸餾（Knowledge Distillation, KD）技術，下列何者為帶來的主要效益？

1. A讓小型模型學習大型模型的知識，在降低運算成本的同時維持檢索與生成品質（正確答案）

   小模型（student）學大模型（teacher）輸出，成本降而品質留。

2. B只能應用於語音或影像辨識，無法提升文字檢索生成效能

   蒸餾不限模態，文字任務同樣適用。

3. C因為RAG已有檢索機制，因此無需額外蒸餾知識

   檢索機制與模型輕量化是兩件事，不互相取代。

4. D僅能依賴特定API供應商才能使用，無法在自建模型中實現

   蒸餾可在自建模型上自行訓練，不綁供應商。