iPAS AI 應用規劃師初級 115 年第三次 科二 第 43 題 詳解
115 年第三次 科二 生成式 AI 應用與規劃 · 考點:生成式AI導入規劃
某線上教育平台的AI助教系統,其系統提示詞(System Prompt)規定AI僅能回答課程相關問題,不得提供與課程無關的內容。某學生透過多次追問、情境設計與誘導式提問,使AI逐漸偏離原設定,開始回答與課程完全無關的問題。整個過程中,學生僅透過與AI的對話內容進行互動,未利用任何外部文件、網頁或第三方內容夾帶指令。請問此案例最符合下列何種情況?
- A少樣本提示(Few-Shot Prompting)
少樣本提示是給範例提升效果,與突破限制無關。
- BAI幻覺(Hallucination)
幻覺指內容錯誤虛構,本題AI是超出範圍而非答錯。
- C資料外洩(Data Leakage)
資料外洩需有機敏資料流出,題目未提及。
- D越獄(Jailbreak)(正確答案)
純對話誘導使模型脫離系統提示詞約束,即越獄。
正確答案:D
辨識使用者以對話誘導方式突破AI系統提示詞限制的攻擊型態。 先看攻擊是靠對話本身誘導,還是靠外部內容夾帶指令,再判斷風險類別。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
生成式AI導入規劃
- 115 年第二次 科二 第 6 題某物流公司評估導入No-Code/Low-Code平台,希望能與現有的ERP系統、倉儲管理系統及客戶通知平台進行資料串接…
- 115 年第二次 科二 第 34 題某新創公司正在開發一套AI客服系統,由於產品剛上線,目前僅能蒐集到少量的標準問答範例。技術團隊希望在資料有限的情況下,仍…
- 115 年第二次 科二 第 37 題某外送平台計畫推出語音訂餐功能。當使用者說出:「幫我點一份雞排便當和珍珠奶茶,送到公司」,系統需完成語音理解、意圖判斷、…
- 115 年第一次 科二 第 17 題某企業提供大型語言模型(LLM)API服務,需支援高併發請求與流量波動,同時要求服務不中斷並具備故障容忍能力。若以高可用…
- 115 年第一次 科二 第 28 題某市政府交通局計劃導入生成式AI技術來自動生成公車到站時間預測的文字報告,每日需處理約50萬筆交通資料並生成1000份報…