iPAS AI 應用規劃師初級 115 年第三次 科二 第 34 題 詳解

115 年第三次 科二 生成式 AI 應用與規劃 · 考點:生成式AI導入評估

請問下列哪一個場景最適合進行對抗性測試(Adversarial Testing)?

  1. A銀行的AI反詐騙系統上線後,維運團隊持續監控近三個月的交易資料分布,確認是否與系統建置初期的資料分布出現落差

    監控資料分布落差屬資料漂移偵測,非主動攻擊測試。

  2. B銀行的AI反詐騙系統上線後,資安團隊模擬詐騙集團手法,刻意將可疑交易特徵稍作偽裝後送入系統,觀察系統是否仍能正確判斷為異常交易(正確答案)

    模擬攻擊者偽裝特徵輸入模型,正是對抗性測試。

  3. C銀行的AI客服機器人上線後,測試團隊驗證機器人是否能快速回答用戶問題

    只驗證回應速度與正確性,屬一般功能與效能測試。

  4. D銀行的AI貸款審核系統上線後,稽核團隊定期比對不同族群客戶的核貸通過率,確認是否存在對特定族群的不公平差異

    比對族群通過率差異屬公平性稽核,不涉惡意輸入。

正確答案:B

對抗性測試是刻意以惡意或擾動輸入攻擊模型,檢驗其強健性與安全性。 看測試動作是否「主動製造惡意或擾動輸入去攻擊模型」,是才屬對抗性測試。

用刷8題準備 iPAS AI 應用規劃師初級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

生成式AI導入評估

  1. 115 年第三次 科二 第 40 題某市政府環保局計劃導入生成式AI系統,自動分析空氣品質監測報告並產生通知文件。該局每月需處理約500份監測報告,每份通知…
  2. 115 年第三次 科二 第 41 題某醫療機構導入AI用藥諮詢輔助系統,系統在提供用藥建議後,皆會附上其引用的醫學文獻來源。院方主管認為:「只要系統附有引用…
  3. 115 年第三次 科二 第 45 題某大型電力公司導入生成式AI自動產生發電機組維護報告。某份報告建議「該機組應立即停機檢修」,但廠務主管檢視報告後,只看到…
  4. 115 年第三次 科二 第 47 題某生成式AI服務用於協助工程師撰寫程式碼,並持續蒐集使用者修改後的程式碼,定期作為模型優化的訓練資料。數個月後,該服務的…
  5. 115 年第三次 科二 第 48 題某企業導入AI助理一段時間後,計劃推動日常作業自動化,希望分析員工實際使用AI助理的情形,找出最常重複執行的工作流程,並…