iPAS AI 應用規劃師初級 115 年第一次 科二 第 17 題 詳解
115 年第一次 科二 生成式 AI 應用與規劃 · 考點:生成式AI導入規劃
某企業提供大型語言模型(LLM)API服務,需支援高併發請求與流量波動,同時要求服務不中斷並具備故障容忍能力。若以高可用性與可擴展性為主要設計原則,下列哪一種部署方式較為適當?
- A採用單一高效能虛擬機(VM)集中部署,以提升資源使用效率
單機集中部署有單點故障風險,也無法隨流量擴充。
- B建立多個模型服務實例並透過負載分散機制提供服務(正確答案)
多實例加負載平衡,可水平擴展並容忍單點失效。
- C將推論任務改由用戶端設備分擔,以降低伺服器負載壓力
端側推論受裝置算力限制,且未解決服務端可用性。
- D使用FTP協議傳輸請求與回應,以減少服務通訊負擔
FTP為檔案傳輸協定,不適用於即時API通訊。
正確答案:B
考高可用性與可擴展性架構:多實例加負載平衡的水平擴展設計。 看到「不中斷、容錯、流量波動」等字眼,就往「多副本+流量分散」的水平擴展方向找答案。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
生成式AI導入規劃
- 115 年第一次 科二 第 28 題某市政府交通局計劃導入生成式AI技術來自動生成公車到站時間預測的文字報告,每日需處理約50萬筆交通資料並生成1000份報…
- 115 年第一次 科二 第 36 題某連鎖零售企業使用生成式AI協助規劃門市補貨策略。決策時需同時考量多項彼此相關的因素,例如:庫存水位、促銷活動、區域銷售…
- 115 年第一次 科二 第 40 題某企業導入大型語言模型(LLM)進行客服自動化,並已透過Fine-Tuning學習企業標準問答範例,但在實務運作中仍出現…
- 115 年第一次 科二 第 42 題某企業希望利用含敏感資訊的資料進行AI模型訓練,但政策要求原始資料不得外洩,且資料可集中於安全環境中處理。同時,企業希望…
- 114 年第四次 科二 第 17 題某公司部署結合Fine-tuning與檢索增強生成(RAG)的語言模型系統作為內部文件助理。系統需同時確保回覆語氣一致、…