iPAS AI 應用規劃師初級 115 年第三次 科二 第 43 題 詳解

115 年第三次 科二 生成式 AI 應用與規劃

某線上教育平台的AI助教系統，其系統提示詞（System Prompt）規定AI僅能回答課程相關問題，不得提供與課程無關的內容。某學生透過多次追問、情境設計與誘導式提問，使AI逐漸偏離原設定，開始回答與課程完全無關的問題。整個過程中，學生僅透過與AI的對話內容進行互動，未利用任何外部文件、網頁或第三方內容夾帶指令。請問此案例最符合下列何種情況？

1. A少樣本提示（Few-Shot Prompting）

   少樣本提示是給範例提升效果，與突破限制無關。

2. BAI幻覺（Hallucination）

   幻覺指內容錯誤虛構，本題AI是超出範圍而非答錯。

3. C資料外洩（Data Leakage）

   資料外洩需有機敏資料流出，題目未提及。

4. D越獄（Jailbreak）（正確答案）

   純對話誘導使模型脫離系統提示詞約束，即越獄。