iPAS AI 應用規劃師初級 115 年第三次 科二 第 41 題 詳解

115 年第三次 科二 生成式 AI 應用與規劃

某醫療機構導入AI用藥諮詢輔助系統，系統在提供用藥建議後，皆會附上其引用的醫學文獻來源。院方主管認為：「只要系統附有引用文獻，代表該次回覆內容一定完全正確。」資訊室主任則向院方說明這個看法並不完全正確。請問資訊室主任最可能提出下列何種說明？

1. A標註文獻來源的主要目的在於降低系統運算成本，因此是否提供來源與答案可信度無關

   標註來源與降低運算成本無關，前提就錯。

2. B標註來源僅能提高答案的可追溯性，讓醫護人員可自行查核依據，但無法保證AI在產生回覆時未誤解文獻內容或引用錯誤（正確答案）

   正解：可追溯不等於無誤解或錯引。

3. C標註文獻來源可讓系統自動將這些文獻納入模型重新訓練，因此回覆內容會隨使用次數逐漸提升準確性

   附上引用不會自動觸發模型再訓練。

4. D系統只要標註文獻來源，即表示該次回覆內容已完成院內專科醫師審核，可直接作為正式醫療處置建議

   系統標註來源不等同已完成醫師審核。