iPAS AI 應用規劃師初級 115 年第一次 科一 第 23 題 詳解
115 年第一次 科一 人工智慧基礎概論 · 考點:鑑別式AI與生成式AI的基本原理
在AI推論服務架構設計中,「批次推論(Batch Inference)」與「即時推論(Real-time Inference)」常依任務特性選擇不同機制。下列關於兩者特性的敘述何者最正確?
- A批次推論通常以同步請求方式回傳結果,以確保資料一致性;即時推論則多採非同步機制以提升系統吞吐量(Throughput)
同步與非同步對應顛倒,批次本質即非即時回傳。
- B批次推論多用於延遲容忍度較高的大規模資料處理,通常以吞吐量(Throughput)最佳化為優先;即時推論則著重於請求回應時間的穩定性與低延遲特性(正確答案)
正確:批次優化吞吐量,即時優化低延遲與穩定回應。
- C批次推論因計算資源需求高,僅適用於影像類模型;即時推論則主要應用於結構化資料模型
兩者皆不限定資料型態,與模型類型無關。
- D即時推論為確保回應速度,通常限制為單筆資料輸入;批次推論則可支援同步多筆資料即時回傳
即時推論也可微批次處理,並非限單筆。
正確答案:B
批次推論與即時推論在延遲容忍度與吞吐量取捨上的差異。 先問這個任務能否等待:能等就拚吞吐量,不能等就拚低延遲與回應穩定度。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
鑑別式AI與生成式AI的基本原理
- 115 年第一次 科一 第 29 題在深度學習模型的分析與驗證過程中,研究人員有時會利用「顯著性圖(Saliency Map)」來輔助理解模型行為。下列何者…
- 115 年第一次 科一 第 34 題某保險公司每月處理約50萬筆理賠申請,希望建立AI系統自動識別可疑的詐欺案件。由於公司內部缺乏AI專業人員,且需要快速上…
- 115 年第一次 科一 第 35 題某市政府規劃釋出市民用電資料供學術研究使用,資料內容包含用電紀錄與部分人口統計欄位。考量資料可能涉及可識別個人之資訊,且…
- 114 年第四次 科一 第 1 題在人工智慧系統的決策流程中,下列哪一種情境最符合「人在迴圈上(Human-over-the-loop)」所強調的監督機制…
- 114 年第四次 科一 第 8 題為提升生成式AI系統回應的語境一致性,常會結合哪類模型技術?