iPAS AI 應用規劃師初級 115 年第三次 科一 第 38 題 詳解

115 年第三次 科一 人工智慧基礎概論

某企業建置長時間對話的客服機器人，發現當對話回合數持續增加、上下文變得很長時，即使對話內容仍未超過模型可支援的上下文長度上限，模型仍常「忘記」或答錯先前提及的內容，回覆準確度明顯下降。下列關於此現象的敘述，何者最正確？

1. A上下文越長，模型擷取與利用關鍵資訊的能力可能下降，因此容易忽略先前的核心內容（正確答案）

   上下文拉長時關鍵資訊易被稀釋，擷取能力下降。

2. B上下文越長，模型會自動建立索引並優先檢索較早的對話內容，因而無法引用先前資訊

   模型不會自動建索引，也不會偏好較早內容。

3. C上下文越長，模型在推論時會逐漸改變其原有的模型參數設定，因而導致記憶混亂

   推論階段參數凍結，不會被對話改動。

4. D只要對話內容未超過模型可支援的上下文長度，就不會出現遺漏先前資訊的情形

   未超上限仍可能遺漏，長度上限不等於有效利用。