iPAS AI 應用規劃師初級 115 年第三次 科一 第 43 題 詳解

115 年第三次 科一 人工智慧基礎概論

某企業導入大型語言模型處理超長合約文件（數萬字），發現輸入越長，運算時間與資源消耗增加得越快，遠超過文件長度增加的比例。下列何者最能解釋此現象發生的主要原因？

1. A長文本包含較多生僻字，系統偵測到新詞時會自動暫停並即時重建底層詞彙表

   詞彙表在訓練時已固定，推論階段不會重建。

2. B模型為了確保長文本的生成品質，會隨輸入長度自動動態增加模型的參數數量

   參數量是訓練完成即固定，不隨輸入伸縮。

3. C自注意力機制在處理文本時，時間複雜度會隨輸入長度呈二次方（平方）快速上升（正確答案）

   自注意力需兩兩計算token關聯，複雜度為O(n²)。

4. D隨著合約內容變長，模型內部會自動切換為檢索增強生成（RAG）架構，以提升長文本處理效率

   RAG須由系統設計導入，模型不會自動切換。