iPAS AI 應用規劃師初級 115 年第二次 科二 第 3 題 詳解
115 年第二次 科二 生成式 AI 應用與規劃
某人資部門使用Dify平台建立了一個AI面試輔助機器人,協助HR在面試過程中即時查詢應徵者的過往提問紀錄。然而測試時發現,機器人完全無法記住同一位應徵者在五分鐘前說過的話,每次回應都像是全新對話。以下哪個措施能從根本上解決此問題?
- A提升語言模型的溫度參數(Temperature)
溫度只影響輸出隨機性,與記憶無關。
- B在每次API請求中,手動將歷史對話內容(Chat History)一併打包送入模型進行推理(正確答案)
把歷史對話併入提示詞,模型才有上下文可推理。
- C改用具備更多參數的大型多模態模型,以強化跨輪對話的理解能力
換更大模型仍是無狀態,不會自動記得前文。
- D為伺服器增加記憶體容量,擴充系統可儲存的對話快取空間
伺服器記憶體不等於模型的上下文輸入。
正確答案:B
大型語言模型無狀態特性與對話歷史(Chat History)需隨提示詞一併輸入的觀念。 先問模型「記不住」是架構本質還是資源不足,凡屬無狀態問題就從輸入內容找解法。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題