iPAS AI 應用規劃師初級 115 年第二次 科二 第 50 題 詳解

115 年第二次 科二 生成式 AI 應用與規劃

某醫院導入AI輔助診斷系統。發生誤判導致醫療爭議時，院方與系統供應商皆無法說明模型的判斷依據。請問此案例最主要反映AI黑箱特性在高風險應用中的哪項法律與倫理挑戰？

1. AAI系統無法即時更新醫療知識，導致診斷結果逐漸偏離臨床實務

   知識更新落後屬模型維運議題，與無法說明依據無關。

2. BAI系統對影像品質較敏感，設備條件不足時容易影響判斷準確性

   影像品質敏感是資料品質與效能問題，非黑箱特性。

3. CAI系統儲存患者資料，若管理不當可能產生個資外洩風險

   個資外洩屬隱私與資安風險，題幹並未提及資料保護失當。

4. DAI系統判斷過程不透明，發生錯誤時難以釐清相關責任歸屬（正確答案）

   正解，不透明導致問責困難，正是黑箱的核心法律倫理挑戰。