iPAS AI 應用規劃師初級 115 年第一次 科一 第 23 題 詳解

115 年第一次 科一 人工智慧基礎概論

在AI推論服務架構設計中，「批次推論（Batch Inference）」與「即時推論（Real-time Inference）」常依任務特性選擇不同機制。下列關於兩者特性的敘述何者最正確？

1. A批次推論通常以同步請求方式回傳結果，以確保資料一致性；即時推論則多採非同步機制以提升系統吞吐量（Throughput）

   同步與非同步對應顛倒，批次本質即非即時回傳。

2. B批次推論多用於延遲容忍度較高的大規模資料處理，通常以吞吐量（Throughput）最佳化為優先；即時推論則著重於請求回應時間的穩定性與低延遲特性（正確答案）

   正確：批次優化吞吐量，即時優化低延遲與穩定回應。

3. C批次推論因計算資源需求高，僅適用於影像類模型；即時推論則主要應用於結構化資料模型

   兩者皆不限定資料型態，與模型類型無關。

4. D即時推論為確保回應速度，通常限制為單筆資料輸入；批次推論則可支援同步多筆資料即時回傳

   即時推論也可微批次處理，並非限單筆。