iPAS AI 應用規劃師初級 115 年第二次 科一 第 47 題 詳解

115 年第二次 科一 人工智慧基礎概論

某大型語言模型（LLM）在訓練過程中，研究人員發現模型在生成文本時，長期集中產生少數幾種相似的回應形式，缺乏多樣性。下列何者最能說明此現象及其可能原因？

1. A過度擬合（Overfitting）

   過度擬合是記住訓練資料、對新資料失準。

2. B模式崩潰（Mode Collapse）（正確答案）

   正解：輸出坍縮到少數模式，多樣性喪失。

3. C梯度消失（Vanishing Gradient）

   梯度消失是深層網路參數更新停滯。

4. D模型收斂速度（Convergence Rate）

   收斂速度只描述訓練快慢，非失效型態。