iPAS AI 應用規劃師初級 115 年第三次 科二 第 47 題 詳解
115 年第三次 科二 生成式 AI 應用與規劃 · 考點:生成式AI導入評估
某生成式AI服務用於協助工程師撰寫程式碼,並持續蒐集使用者修改後的程式碼,定期作為模型優化的訓練資料。數個月後,該服務的資訊安全團隊發現AI開始頻繁產生有安全漏洞的程式碼範例。經調查,發現部分回饋資料因具有安全問題的程式碼,混入模型優化流程而造成此漏洞。從AI導入與資訊安全的角度來看,下列何者最可能是造成此問題的主要原因?
- A未定期更新AI使用的提示內容(Prompt),導致模型無法產生最新技術規格的程式碼
提示未更新只影響輸出風格,不會讓漏洞寫進模型權重。
- B未建立訓練資料驗證機制,導致回饋資料污染模型的學習內容(正確答案)
回饋資料未經驗證即投入再訓練,正是資料污染的成因。
- C未限制AI每次產生程式碼的長度,使模型容易產生邏輯複雜且帶有漏洞的範例
長度限制與程式碼是否安全無因果關係。
- D未將程式碼知識文件建置為RAG知識庫,導致模型無法檢索到正確且安全的編寫規範
RAG 補的是檢索知識,救不了已被污染的訓練資料。
正確答案:B
檢驗是否理解資料污染(data poisoning)與訓練資料治理的關係。 先問問題出在資料端還是生成端,再找能直接阻斷該環節的控制措施。
用刷8題準備 iPAS AI 應用規劃師初級
每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。
開始刷題同考點的題目
生成式AI導入評估
- 115 年第二次 科二 第 2 題某客服主管希望在Low-Code平台中設定自動化流程:當客戶訊息被AI判定為「退費意圖」,且退費金額大於10,000元時…
- 115 年第二次 科二 第 3 題某人資部門使用Dify平台建立了一個AI面試輔助機器人,協助HR在面試過程中即時查詢應徵者的過往提問紀錄。然而測試時發現…
- 115 年第二次 科二 第 5 題一家連鎖零售業者使用某封閉式No-Code平台多年,將客戶資料、訂單流程與內部作業高度整合於該平台。近期業者進行系統盤點…
- 115 年第二次 科二 第 8 題在自動化工作流程中,Webhook是一種由事件觸發、系統會主動回應的機制,請問下列何者最符合此運作邏輯?
- 115 年第二次 科二 第 10 題某家企業希望開發股票交易輔助工具,要求該工具需要在接收到市場報價資料的50毫秒內完成訊號判斷與下單指令,且每秒需處理超過…