iPAS AI 應用規劃師初級 115 年第二次 科二 第 28 題 詳解

115 年第二次 科二 生成式 AI 應用與規劃

某金融機構部署一套對外服務的AI理財問答機器人。於滲透測試中，安全團隊發現攻擊者可透過精心設計的自然語言輸入，繞過系統限制並誘導AI洩漏內部評分規則。為有效降低此類提示詞注入攻擊（Prompt Injection）的整體風險，下列何者為最適當的防護策略？

1. A僅在輸入端部署關鍵字黑名單過濾機制，封鎖常見攻擊詞彙的請求

   黑名單只擋已知詞彙，改寫或編碼即可繞過。

2. B放寬輸入限制以提升使用體驗，並改由人工定期審查AI輸出內容是否異常

   放寬輸入且僅事後人工審查，屬被動補救。

3. C在系統初始化時設定嚴格的系統提示並限制敏感資訊回應，但未搭配其他輸入與輸出層防護機制

   僅靠系統提示，缺輸入輸出層把關仍會被覆寫。

4. D採用多層防禦架構，整合輸入驗證、輸出行為監控、系統提示保護與最小權限控管機制（正確答案）

   輸入驗證、輸出監控、提示保護與最小權限並行。