iPAS AI 應用規劃師初級 115 年第二次 科二 第 28 題 詳解
115 年第二次 科二 生成式 AI 應用與規劃 · 考點:生成式AI應用領域與常見工具
某金融機構部署一套對外服務的AI理財問答機器人。於滲透測試中,安全團隊發現攻擊者可透過精心設計的自然語言輸入,繞過系統限制並誘導AI洩漏內部評分規則。為有效降低此類提示詞注入攻擊(Prompt Injection)的整體風險,下列何者為最適當的防護策略?
- A僅在輸入端部署關鍵字黑名單過濾機制,封鎖常見攻擊詞彙的請求
黑名單只擋已知詞彙,改寫或編碼即可繞過。
- B放寬輸入限制以提升使用體驗,並改由人工定期審查AI輸出內容是否異常
放寬輸入且僅事後人工審查,屬被動補救。
- C在系統初始化時設定嚴格的系統提示並限制敏感資訊回應,但未搭配其他輸入與輸出層防護機制
僅靠系統提示,缺輸入輸出層把關仍會被覆寫。
- D採用多層防禦架構,整合輸入驗證、輸出行為監控、系統提示保護與最小權限控管機制(正確答案)
輸入驗證、輸出監控、提示保護與最小權限並行。
正確答案:D
提示詞注入攻擊的防護必須採多層防禦,而非單點機制。 看到資安防護策略題,先確認選項是否涵蓋輸入、輸出與權限等多個控制層面。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
生成式AI應用領域與常見工具
- 115 年第一次 科二 第 8 題某製造企業規劃於設備端建置邊緣運算(Edge Computing)架構,並以No-Code/Low-Code平台開發即時…
- 115 年第一次 科二 第 14 題某企業導入大型語言模型(LLM)分析內部報表,使用者經常提供Excel匯出的表格資料(如銷售數據與統計表)。測試時發現,…
- 115 年第一次 科二 第 41 題企業在評估AI決策模型是否存在資料分布偏差時,下列何者最屬於偏見檢測(Bias Detection)而非偏見緩解(Bia…
- 115 年第一次 科二 第 45 題某企業導入生成式AI助理,協助內部人員撰寫專案建議與分析報告。團隊希望透過思維鏈(Chain of Thought, C…
- 114 年第四次 科二 第 26 題某電商平台希望生成的商品描述在風格與用詞上保持一致性,但不需要新增專業知識。下列哪種方法最適合?