iPAS AI 應用規劃師初級 115 年第一次 科二 第 2 題 詳解

115 年第一次 科二 生成式 AI 應用與規劃 · 考點:如何善用生成式AI工具

在進行大型語言模型(LLM)企業專屬知識的Fine-tuning時,若內部GPU運算資源與記憶體嚴重受限,下列哪一種參數高效微調(PEFT, Parameter Efficient Fine-Tuning)技術最能在維持模型效能的前提下,顯著降低需更新的參數數量?

  1. A知識蒸餾(Knowledge Distillation)

    知識蒸餾是訓練小模型模仿大模型,屬模型壓縮。

  2. B提示詞工程(Prompt Engineering)

    提示詞工程不更新任何權重,不算微調。

  3. C梯度凍結(Gradient Freezing)

    凍結部分層雖省資源,但仍靠原有參數,效能與彈性有限。

  4. D低秩適配(Low-Rank Adaptation)(正確答案)

    以低秩矩陣旁掛學習,僅更新極少參數即可保效能。

正確答案:D

考參數高效微調(PEFT)技術中,LoRA 如何以低秩矩陣大幅減少可訓練參數。 先判斷選項是否真的「更新少量參數來訓練模型」,再看它是訓練法、推論法還是壓縮法。

用刷8題準備 iPAS AI 應用規劃師初級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

如何善用生成式AI工具

  1. 114 年第四次 科二 第 4 題某社交平台嘗試結合自動提示工程(Automatic Prompt Engineer, APE)與圖提示(Graph Pr…
  2. 114 年第四次 科二 第 12 題某企業考慮將開源大型語言模型(GPT-OSS)自行部署在本地伺服器,以取代雲端服務。下列何者最能代表本地部署對企業的實際…
  3. 114 年第四次 科二 第 15 題某客服自動回應系統希望根據不同客戶群體調整回覆風格。在兼顧即時性與效果的前提下,下列哪一種方案最適合?
  4. 114 年第四次 科二 第 18 題某客服系統在回覆「訂單取消政策」時,即使生成溫度固定為0.6,回覆品質仍常出現差異。調查顯示,檢索到的政策內容有時是最新…
  5. 114 年第四次 科二 第 39 題在提示工程(Prompt Engineering)的應用中,Chain-of-Thought(CoT)與Tree of …