iPAS AI 應用規劃師初級 115 年第三次 科一 第 44 題 詳解

115 年第三次 科一 人工智慧基礎概論

某軟體公司計劃開發一款手機App，需要在沒有網路的環境下，也能在手機本機端（邊緣裝置）執行微型大語言模型來提供即時語音翻譯服務。考量到行動裝置的記憶體（RAM）容量限制以及電池續航力，工程師建議在部署前先對模型進行模型量化（Quantization）處理。請問關於此作法所帶來的預期效益與影響，下列敘述何者最正確？

1. A經過量化處理後的模型，在執行時必須即時連回雲端伺服器進行校正，否則手機端將無法獨立運作

   量化的目的正是讓模型離線獨立運行，不需回連雲端。

2. B能在完全不影響模型原本輸出品質的前提下壓縮模型體積，並降低記憶體需求

   壓縮與記憶體效益正確，但「完全不影響品質」過度絕對。

3. C模型量化後會自動在邊緣裝置上動態增加參數數量，藉此彌補因為精度降低所帶來的能力損失

   量化只降低數值精度，不會自動增生參數。

4. D能大幅減少模型檔案體積與記憶體佔用量，並加速本機推論回應，但模型輸出品質可能會受到輕微影響（正確答案）

   正確：體積與記憶體下降、推論加快，品質輕微受損。