iPAS AI 應用規劃師初級 115 年第二次 科二 第 49 題 詳解

115 年第二次 科二 生成式 AI 應用與規劃 · 考點:No Code / Low Code的基本概念

某銀行導入AI理財助理供行員查詢客戶資訊。上線後發現,系統在部分對話中主動提及特定客戶的資產規模與交易紀錄,但這些資訊並未出現在當次輸入中。經調查已排除外部入侵、資料庫存取異常與輸入觸發問題。請問下列何者最可能是此次事件的根本原因?

  1. A行員在查詢過程中無意間輸入了特定關鍵字,觸發系統從資料庫中調用其他客戶的完整資料

    題幹已排除輸入觸發與資料庫異常存取。

  2. B模型在訓練階段過度記憶了含有真實客戶資訊的訓練資料,在特定對話情境下將這些內容重新輸出(正確答案)

    訓練資料記憶導致模型在推論時重新輸出個資。

  3. C客戶行為隨市場變化改變,導致模型對敏感資訊的判斷能力下降

    資料漂移影響預測準確度,不會憑空產出未輸入的個資。

  4. D系統在不同使用者之間短暫共享對話上下文,導致部分資訊被誤帶入其他對話流程

    跨使用者上下文外洩屬系統設計缺陷,與已排除的存取異常同類。

正確答案:B

辨識生成式模型因訓練資料記憶而洩漏個資的風險來源。 先排除外部入侵與輸入觸發後,把問題定位到模型本身在訓練階段吸收了什麼資料。

用刷8題準備 iPAS AI 應用規劃師初級

每天隨手刷 8 題,答錯的題目會自動排回來再考一次。不用註冊,打開就能開始。

開始刷題

No Code / Low Code的基本概念

  1. 115 年第一次 科二 第 11 題某零售企業規劃提升門市數據應用能力,目標包括:門市主管可自行調整分析畫面與檢視指標呈現,以及由行銷部門建立銷售預測模型,…
  2. 115 年第一次 科二 第 20 題在規劃生成式AI解決方案時,下列何種應用場景最適合採用GPT-Realtime類型模型?
  3. 115 年第一次 科二 第 23 題某保險公司想建立智慧理賠系統,包含兩個功能:(1)自動判斷理賠案件是否為詐欺案件(2)自動生成理賠調查報告。請問這兩個功…
  4. 114 年第四次 科二 第 32 題某國際銀行導入生成式AI,用於彙整不同國家金融監管機構的合規規範,建立跨國合規知識庫。由於各國條文表述方式不同,且監管要…
  5. 115 年第三次 科二 第 23 題生成式AI在處理文字前,會先進行斷詞(Tokenization),將文字拆解成多個Token。當模型遇到訓練資料中從未看…