iPAS AI 應用規劃師初級 115 年第二次 科二 第 49 題 詳解

115 年第二次 科二 生成式 AI 應用與規劃

某銀行導入AI理財助理供行員查詢客戶資訊。上線後發現，系統在部分對話中主動提及特定客戶的資產規模與交易紀錄，但這些資訊並未出現在當次輸入中。經調查已排除外部入侵、資料庫存取異常與輸入觸發問題。請問下列何者最可能是此次事件的根本原因？

1. A行員在查詢過程中無意間輸入了特定關鍵字，觸發系統從資料庫中調用其他客戶的完整資料

   題幹已排除輸入觸發與資料庫異常存取。

2. B模型在訓練階段過度記憶了含有真實客戶資訊的訓練資料，在特定對話情境下將這些內容重新輸出（正確答案）

   訓練資料記憶導致模型在推論時重新輸出個資。

3. C客戶行為隨市場變化改變，導致模型對敏感資訊的判斷能力下降

   資料漂移影響預測準確度，不會憑空產出未輸入的個資。

4. D系統在不同使用者之間短暫共享對話上下文，導致部分資訊被誤帶入其他對話流程

   跨使用者上下文外洩屬系統設計缺陷，與已排除的存取異常同類。