iPAS AI 應用規劃師初級 115 年第三次 科二 第 42 題 詳解

115 年第三次 科二 生成式 AI 應用與規劃

某企業導入AI採購代理（AI Agent）協助處理日常採購訂單，當系統偵測到某筆採購訂單金額已超過該AI代理的核決權限（授權額度）時，系統應採取下列何種風險控制措施最為適當？

1. A啟動人在迴圈內（Human-in-the-loop）機制，將訂單轉交具核決權限的人員進行最終審核（正確答案）

   超出權限即轉交有核決權的人審核，符合人在迴圈設計。

2. B先由AI代理依既有規則完成核准，再由採購主管事後抽查

   事後抽查無法阻止越權核准，控制點放錯時間。

3. C要求AI代理自動將該筆訂單拆分為多筆小額訂單，直到金額低於授權額度以利系統直接送出

   拆單規避額度屬內控舞弊手法，風險反而擴大。

4. D將該訂單交由另一個AI代理再次判斷，以演算法的雙重驗證降低單一系統的決策風險

   再加一個AI仍無人類授權，責任歸屬未解決。