iPAS AI 應用規劃師初級 115 年第一次 科二 第 2 題 詳解
115 年第一次 科二 生成式 AI 應用與規劃 · 考點:如何善用生成式AI工具
在進行大型語言模型(LLM)企業專屬知識的Fine-tuning時,若內部GPU運算資源與記憶體嚴重受限,下列哪一種參數高效微調(PEFT, Parameter Efficient Fine-Tuning)技術最能在維持模型效能的前提下,顯著降低需更新的參數數量?
- A知識蒸餾(Knowledge Distillation)
知識蒸餾是訓練小模型模仿大模型,屬模型壓縮。
- B提示詞工程(Prompt Engineering)
提示詞工程不更新任何權重,不算微調。
- C梯度凍結(Gradient Freezing)
凍結部分層雖省資源,但仍靠原有參數,效能與彈性有限。
- D低秩適配(Low-Rank Adaptation)(正確答案)
以低秩矩陣旁掛學習,僅更新極少參數即可保效能。
正確答案:D
考參數高效微調(PEFT)技術中,LoRA 如何以低秩矩陣大幅減少可訓練參數。 先判斷選項是否真的「更新少量參數來訓練模型」,再看它是訓練法、推論法還是壓縮法。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
如何善用生成式AI工具
- 114 年第四次 科二 第 4 題某社交平台嘗試結合自動提示工程(Automatic Prompt Engineer, APE)與圖提示(Graph Pr…
- 114 年第四次 科二 第 12 題某企業考慮將開源大型語言模型(GPT-OSS)自行部署在本地伺服器,以取代雲端服務。下列何者最能代表本地部署對企業的實際…
- 114 年第四次 科二 第 15 題某客服自動回應系統希望根據不同客戶群體調整回覆風格。在兼顧即時性與效果的前提下,下列哪一種方案最適合?
- 114 年第四次 科二 第 18 題某客服系統在回覆「訂單取消政策」時,即使生成溫度固定為0.6,回覆品質仍常出現差異。調查顯示,檢索到的政策內容有時是最新…
- 114 年第四次 科二 第 39 題在提示工程(Prompt Engineering)的應用中,Chain-of-Thought(CoT)與Tree of …