iPAS AI 應用規劃師初級 114 年第四次 科一 第 26 題 詳解

114 年第四次 科一 人工智慧基礎概論

在深度學習模型的微調（Fine-tuning）過程中，可能出現所謂的「災難性遺忘（Catastrophic Forgetting）」。此現象最可能造成哪種情況？

1. A由於計算資源或訓練步驟不足，模型在微調過程中無法完整收斂，導致學習效果受限

   描述訓練不足未收斂，與遺忘舊知識無關。

2. B微調後模型的表現變得隨機，無法有效記憶新學到的模式與知識

   錯在說記不住新知識，實際上新任務反而學得過頭。

3. C微調後模型的部分權重產生偏移，導致模型無法針對較長的文字進行回應

   長文本回應受限屬上下文長度限制，非權重偏移所致。

4. D模型過度適應微調的資料分佈，逐漸遺忘先前預訓練所獲得的廣泛知識，在原有任務或廣泛領域上表現變差（正確答案）

   正解：過度適應新資料分佈，原有廣泛任務表現下滑。