iPAS AI 應用規劃師初級 114 年第四次 科一 第 27 題 詳解

114 年第四次 科一 人工智慧基礎概論

在大型Transformer模型的效能優化過程中，常見的方法之一是「剪枝（Pruning）」。下列哪一項最符合該方法的核心概念？

1. A將模型中所有權重按比例縮小，使其值更接近零，以降低計算量

   整體縮放權重接近量化或正則化概念，非移除參數。

2. B移除模型中影響較小或冗餘的部分權重參數，以減少模型大小並提升推理效率（正確答案）

   移除冗餘權重以縮小模型、加快推理，正是剪枝定義。

3. C在訓練時僅更新部分權重而將其他權重凍結，從而減少需要調整的參數數量

   凍結部分權重是參數高效微調，訓練階段技巧。

4. D根據注意力分數動態跳過處理部分輸入Token，以減少每次前向傳播的計算

   動態跳過Token屬推論時的稀疏注意力策略。