iPAS AI 應用規劃師初級 114 年第四次 科二 第 36 題 詳解

114 年第四次 科二 生成式 AI 應用與規劃

某航空公司導入生成式AI聲控客服，提供航班與票務查詢。有人員透過惡意提示，試圖讓系統洩漏內部安檢流程。在此情境中，下列何者為降低提示攻擊（Prompt Injection）風險的最佳策略？

1. A導入輸入檢測與回應審核流程，防止敏感指令被執行（正確答案）

   輸入檢測加回應審核，直接攔截惡意指令，正解。

2. B限制AI可回應的主題範圍，使系統僅回答非敏感的航班與票務查詢，避免處理內部或敏感流程資訊

   限縮主題只是縮小範圍，無法辨識繞過式惡意提示。

3. C隨機變化回覆內容，讓攻擊者難以預測回應行為以增加攻擊難度

   隨機回覆不具偵測能力，且傷害服務一致性。

4. D擴充與更新航班與票務資料來源，以提升模型的知識正確性與覆蓋率

   擴充資料提升正確率，與安全防護無關。