iPAS AI 應用規劃師初級 115 年第三次 科二 第 42 題 詳解

115 年第三次 科二 生成式 AI 應用與規劃 · 考點:生成式AI風險管理

某企業導入AI採購代理(AI Agent)協助處理日常採購訂單,當系統偵測到某筆採購訂單金額已超過該AI代理的核決權限(授權額度)時,系統應採取下列何種風險控制措施最為適當?

  1. A啟動人在迴圈內(Human-in-the-loop)機制,將訂單轉交具核決權限的人員進行最終審核(正確答案)

    超出權限即轉交有核決權的人審核,符合人在迴圈設計。

  2. B先由AI代理依既有規則完成核准,再由採購主管事後抽查

    事後抽查無法阻止越權核准,控制點放錯時間。

  3. C要求AI代理自動將該筆訂單拆分為多筆小額訂單,直到金額低於授權額度以利系統直接送出

    拆單規避額度屬內控舞弊手法,風險反而擴大。

  4. D將該訂單交由另一個AI代理再次判斷,以演算法的雙重驗證降低單一系統的決策風險

    再加一個AI仍無人類授權,責任歸屬未解決。

正確答案:A

AI 代理超出授權額度時,應由人在迴圈接手最終決策。 遇到自動化決策超出授權或高風險情境,先找把決定權交還給人的選項。

用刷8題準備 iPAS AI 應用規劃師初級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

生成式AI風險管理

  1. 115 年第三次 科二 第 50 題某餐飲連鎖企業導入生成式AI,自動彙整各分店每日的營運日誌,並生成摘要報告供總部主管閱讀。系統上線後,總部主管發現某分店…
  2. 115 年第二次 科二 第 7 題某企業導入No-Code/Low-Code平台後,發現各部門可快速開發AI應用,但同時產生大量重複功能之應用程式,且模型…
  3. 115 年第二次 科二 第 12 題某電商平台導入CLIP(Contrastive Language-Image Pre-training)模型,讓使用者能…
  4. 115 年第二次 科二 第 16 題某企業導入AI代理(AI Agent)系統,期望其可依據任務目標,自主規劃步驟、調用外部工具並完成任務。下列何者最能體現…
  5. 115 年第二次 科二 第 20 題某開發團隊在使用AI程式設計助手開發資料管線系統(Data Pipeline System)時,發現生成的Python資…