iPAS AI 應用規劃師初級 114 年第四次 科一 第 26 題 詳解
114 年第四次 科一 人工智慧基礎概論 · 考點:機器學習基本原理
在深度學習模型的微調(Fine-tuning)過程中,可能出現所謂的「災難性遺忘(Catastrophic Forgetting)」。此現象最可能造成哪種情況?
- A由於計算資源或訓練步驟不足,模型在微調過程中無法完整收斂,導致學習效果受限
描述訓練不足未收斂,與遺忘舊知識無關。
- B微調後模型的表現變得隨機,無法有效記憶新學到的模式與知識
錯在說記不住新知識,實際上新任務反而學得過頭。
- C微調後模型的部分權重產生偏移,導致模型無法針對較長的文字進行回應
長文本回應受限屬上下文長度限制,非權重偏移所致。
- D模型過度適應微調的資料分佈,逐漸遺忘先前預訓練所獲得的廣泛知識,在原有任務或廣泛領域上表現變差(正確答案)
正解:過度適應新資料分佈,原有廣泛任務表現下滑。
正確答案:D
微調時因過度擬合新資料而流失預訓練通用知識的災難性遺忘現象。 看到「遺忘」類題目,先確認流失的是舊有的通用能力,而非新任務的學習效果。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
機器學習基本原理
- 114 年第四次 科一 第 28 題對非常長的輸入序列進行推理(Inference),Transformer模型推理的主要計算瓶頸通常是什麼?
- 114 年第四次 科一 第 32 題在統計推論中,若樣本來自母體但呈現明顯偏態分布,且樣本數有限,下列哪一項策略最能減少推估母體參數的偏誤?
- 114 年第四次 科一 第 36 題某電商資料團隊要協助行銷部門規劃再行銷策略。目前取得資料包含使用者點擊、購買紀錄、流量來源與轉換率。若資料團隊希望先進行…
- 114 年第四次 科一 第 39 題某醫院計畫開發住院日數預測模型,以協助病房調度。多數病人的住院日數集中在3–7天,但仍有少數重症患者因治療需求而住院日數…
- 114 年第四次 科一 第 47 題在訓練神經網路時,為了提升模型收斂速度與穩定性,避免梯度消失或梯度爆炸,下列哪一種做法最常被使用?