iPAS AI 應用規劃師初級 115 年第二次 科一 第 37 題 詳解

115 年第二次 科一 人工智慧基礎概論

某醫療AI系統使用深度學習模型分析胸腔X光影像，判斷患者是否罹患肺炎。醫院評估委員會要求系統必須能夠標示「影像中哪些區域對本次診斷判斷影響最大」，以供放射科醫師進行審核確認。下列哪一種可解釋AI技術最能直接滿足「標示影像中對預測結果影響最大的區域」此一需求？

1. ALIME（Local Interpretable Model-agnostic Explanations）

   用擾動建局部代理模型，通用但非影像梯度熱區的直接作法。

2. BSHAP（SHapley Additive exPlanations）

   算特徵貢獻值，強項在表格型特徵，非像素級定位。

3. C部分依賴圖（Partial Dependence Plot, PDP）

   呈現單一特徵與預測的整體平均關係，不解釋單張影像。

4. D顯著性圖（Saliency Map）（正確答案）

   以梯度計算各像素影響度，直接生成影像熱區標示。