iPAS AI 應用規劃師初級 115 年第二次 科一 第 35 題 詳解

115 年第二次 科一 人工智慧基礎概論

某企業導入大型語言模型（LLM）進行長篇法規文件的問答查詢。使用者反映，當問題需整合文件中較不相關的資訊時，模型回答的連貫性與準確性明顯下降。技術團隊認為此現象與模型架構特性有關。下列何者最能說明傳統Transformer在此情境下的限制？

1. A模型在推理時僅能依賴固定長度的上下文窗口，無法同時處理分散於全文的資訊（正確答案）

   固定上下文窗口使分散全文的資訊無法一次納入。

2. B模型能記住的內容取決於訓練語料，推理時遇到新內容可能無法應對

   講訓練語料涵蓋度，非本題的長文整合限制。

3. CTransformer在長序列處理時效率下降，但仍可完整處理所有輸入內容

   「仍可完整處理所有輸入」與窗口上限矛盾。

4. D每次推理後Transformer都需重新訓練才能記住新的資訊

   推理不需重新訓練，敘述錯誤。