iPAS AI 應用規劃師初級 115 年第三次 科二 第 18 題 詳解
115 年第三次 科二 生成式 AI 應用與規劃
某企業讓AI代理(AI Agent)處理複雜法律合約分析,為了提升分析品質與邏輯準確度,工程師決定提高模型可使用的思考預算(Thinking Budget)。此項調整通常會帶來下列何種權衡(Trade-off)?
- A增加模型產生幻覺(Hallucination)的機率
多步推理通常減少幻覺,不是增加。
- B縮減模型單次可讀取的上下文視窗(Context Window)
上下文視窗由模型架構決定,與思考預算無關。
- C降低回覆的創意與多樣性
創意多樣性由溫度等取樣參數控制。
- D可能增加回應延遲(Latency)與推理運算成本(正確答案)
多算就是多花時間與算力,正解。
正確答案:D
思考預算提高會延長推理時間並增加運算成本的權衡關係 遇到調整模型參數的題目,先問這個參數直接控制什麼資源,答案就在該資源的消耗端。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題