iPAS AI 應用規劃師初級 114 年第四次 科二 第 36 題 詳解

114 年第四次 科二 生成式 AI 應用與規劃 · 考點:生成式AI導入評估

某航空公司導入生成式AI聲控客服,提供航班與票務查詢。有人員透過惡意提示,試圖讓系統洩漏內部安檢流程。在此情境中,下列何者為降低提示攻擊(Prompt Injection)風險的最佳策略?

  1. A導入輸入檢測與回應審核流程,防止敏感指令被執行(正確答案)

    輸入檢測加回應審核,直接攔截惡意指令,正解。

  2. B限制AI可回應的主題範圍,使系統僅回答非敏感的航班與票務查詢,避免處理內部或敏感流程資訊

    限縮主題只是縮小範圍,無法辨識繞過式惡意提示。

  3. C隨機變化回覆內容,讓攻擊者難以預測回應行為以增加攻擊難度

    隨機回覆不具偵測能力,且傷害服務一致性。

  4. D擴充與更新航班與票務資料來源,以提升模型的知識正確性與覆蓋率

    擴充資料提升正確率,與安全防護無關。

正確答案:A

提示攻擊(Prompt Injection)的對應防護措施判斷 看選項是否直接針對攻擊路徑做偵測與攔截,而非只調整功能或資料品質。

用刷8題準備 iPAS AI 應用規劃師初級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

生成式AI導入評估

  1. 114 年第四次 科二 第 50 題小明想開發一個部落格寫作工具,讓用戶輸入文章開頭後,系統自動幫忙寫出後續內容,例如輸入「今天去了台北木柵動物園...」,…
  2. 115 年第三次 科二 第 2 題某製造業工廠希望將紙本巡檢表單數位化,並建立巡檢紀錄、異常通報及簽核流程,以縮短系統導入時程。然而,資訊部門人力有限,無…
  3. 115 年第三次 科二 第 3 題某保險公司客服中心每日需處理約八千通線上客服對話,且累積了三年份、經主管審核通過的優質應答紀錄。技術團隊希望AI在所有對…
  4. 115 年第三次 科二 第 5 題某物流公司客服主管希望於Low-code平台建立自動化流程:系統每次收到客戶的貨態查詢訊息時,需分別向倉儲系統及物流商查…
  5. 115 年第三次 科二 第 6 題某精密機械製造廠計劃開發一套智慧生產排程系統,希望採用Low-Code平台縮短開發時程。然而,系統核心需實作企業多年累積…