iPAS AI 應用規劃師初級 115 年第三次 科二 第 19 題 詳解
115 年第三次 科二 生成式 AI 應用與規劃 · 考點:生成式AI導入規劃
某保險公司導入兩種大型語言模型:第一種回應速度快、成本較低;第二種推理能力較強,但運算成本較高。為了兼顧回覆品質與整體營運成本,技術團隊希望系統自動判斷每次使用者請求應由哪一個模型處理。下列哪一種架構設計最能達成此需求?
- A負載平衡(Load Balancing),依據各模型伺服器目前的運算負載與網路流量分配請求
負載平衡看伺服器負載,不看問題難易,無法兼顧品質。
- B規則式分流(Rule-based Routing),依預先設定的固定條件(例如關鍵字或問題類別)將請求分派至指定模型
規則式分流靠固定條件,遇到新型問題難以彈性判斷。
- C提示詞工程(Prompt Engineering),透過系統提示詞要求使用者先選擇問題類型,再依選擇結果決定使用的模型
把選擇丟給使用者,非系統自動判斷。
- D模型路由(Model Routing),先讓模型判斷問題特性,再將請求分派至適合的模型處理(正確答案)
由系統判讀問題特性後動態指派模型,正解。
正確答案:D
考在生成式AI應用中「模型路由」依請求特性動態選擇模型的架構概念。 先問分派決策是依「請求內容的語意特性」還是依「伺服器負載或固定規則」,再選架構。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
生成式AI導入規劃
- 115 年第三次 科二 第 43 題某線上教育平台的AI助教系統,其系統提示詞(System Prompt)規定AI僅能回答課程相關問題,不得提供與課程無關…
- 115 年第三次 科二 第 44 題某企業將生成式AI導入內部知識問答系統,並建立強化學習從人類回饋(Reinforcement Learning from…
- 115 年第二次 科二 第 6 題某物流公司評估導入No-Code/Low-Code平台,希望能與現有的ERP系統、倉儲管理系統及客戶通知平台進行資料串接…
- 115 年第二次 科二 第 34 題某新創公司正在開發一套AI客服系統,由於產品剛上線,目前僅能蒐集到少量的標準問答範例。技術團隊希望在資料有限的情況下,仍…
- 115 年第二次 科二 第 37 題某外送平台計畫推出語音訂餐功能。當使用者說出:「幫我點一份雞排便當和珍珠奶茶,送到公司」,系統需完成語音理解、意圖判斷、…