iPAS AI 應用規劃師初級 115 年第三次 科二 第 47 題 詳解

115 年第三次 科二 生成式 AI 應用與規劃

某生成式AI服務用於協助工程師撰寫程式碼，並持續蒐集使用者修改後的程式碼，定期作為模型優化的訓練資料。數個月後，該服務的資訊安全團隊發現AI開始頻繁產生有安全漏洞的程式碼範例。經調查，發現部分回饋資料因具有安全問題的程式碼，混入模型優化流程而造成此漏洞。從AI導入與資訊安全的角度來看，下列何者最可能是造成此問題的主要原因？

1. A未定期更新AI使用的提示內容（Prompt），導致模型無法產生最新技術規格的程式碼

   提示未更新只影響輸出風格，不會讓漏洞寫進模型權重。

2. B未建立訓練資料驗證機制，導致回饋資料污染模型的學習內容（正確答案）

   回饋資料未經驗證即投入再訓練，正是資料污染的成因。

3. C未限制AI每次產生程式碼的長度，使模型容易產生邏輯複雜且帶有漏洞的範例

   長度限制與程式碼是否安全無因果關係。

4. D未將程式碼知識文件建置為RAG知識庫，導致模型無法檢索到正確且安全的編寫規範

   RAG 補的是檢索知識，救不了已被污染的訓練資料。