iPAS AI 應用規劃師初級 115 年第三次 科二 第 19 題 詳解

115 年第三次 科二 生成式 AI 應用與規劃 · 考點:生成式AI導入規劃

某保險公司導入兩種大型語言模型:第一種回應速度快、成本較低;第二種推理能力較強,但運算成本較高。為了兼顧回覆品質與整體營運成本,技術團隊希望系統自動判斷每次使用者請求應由哪一個模型處理。下列哪一種架構設計最能達成此需求?

  1. A負載平衡(Load Balancing),依據各模型伺服器目前的運算負載與網路流量分配請求

    負載平衡看伺服器負載,不看問題難易,無法兼顧品質。

  2. B規則式分流(Rule-based Routing),依預先設定的固定條件(例如關鍵字或問題類別)將請求分派至指定模型

    規則式分流靠固定條件,遇到新型問題難以彈性判斷。

  3. C提示詞工程(Prompt Engineering),透過系統提示詞要求使用者先選擇問題類型,再依選擇結果決定使用的模型

    把選擇丟給使用者,非系統自動判斷。

  4. D模型路由(Model Routing),先讓模型判斷問題特性,再將請求分派至適合的模型處理(正確答案)

    由系統判讀問題特性後動態指派模型,正解。

正確答案:D

考在生成式AI應用中「模型路由」依請求特性動態選擇模型的架構概念。 先問分派決策是依「請求內容的語意特性」還是依「伺服器負載或固定規則」,再選架構。

用刷8題準備 iPAS AI 應用規劃師初級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

生成式AI導入規劃

  1. 115 年第三次 科二 第 43 題某線上教育平台的AI助教系統,其系統提示詞(System Prompt)規定AI僅能回答課程相關問題,不得提供與課程無關…
  2. 115 年第三次 科二 第 44 題某企業將生成式AI導入內部知識問答系統,並建立強化學習從人類回饋(Reinforcement Learning from…
  3. 115 年第二次 科二 第 6 題某物流公司評估導入No-Code/Low-Code平台,希望能與現有的ERP系統、倉儲管理系統及客戶通知平台進行資料串接…
  4. 115 年第二次 科二 第 34 題某新創公司正在開發一套AI客服系統,由於產品剛上線,目前僅能蒐集到少量的標準問答範例。技術團隊希望在資料有限的情況下,仍…
  5. 115 年第二次 科二 第 37 題某外送平台計畫推出語音訂餐功能。當使用者說出:「幫我點一份雞排便當和珍珠奶茶,送到公司」,系統需完成語音理解、意圖判斷、…