代理型 AI 透過提升決策透明度增強醫師的臨床信任
arXiv - Computers and SocietyZhiling Yan, Zhe Fang, David J King, Ann Pongsakul, Eashan Adhikarla, Hui Ren, Sunyang Fu, Quanzheng Li, Lifang He, Xiang Li, Hongfang Liu, Yonghui Wu, Lichao Sun
研究證實代理型 AI 因具備透明的推理與工具調用過程，能顯著提升醫師的認知信任與行為依賴。
AI 幫你先抓重點
AI 重點 1
從「推理」轉向「代理型」是提升 AI 可信度的關鍵範式轉移。
滑鼠懸停看 AI 判斷理由
傳統 AI 僅提供結果，而代理型 AI 透過自主調用工具並展示中間步驟，將「黑箱」轉化為「透明過程」，這對於需要高度責任歸屬的專業領域（如醫療或教育決策）至關重要。
AI 重點 2
透明度並不等同於安全性，需警惕「過度依賴」的風險。
滑鼠懸停看 AI 判斷理由
即使 AI 展示了推理邏輯，使用者仍可能因其看似合理的過程而盲目接受錯誤結果。這提醒開發者與使用者，透明度應作為輔助監督的工具，而非取代人類判斷的保證。
核心研究發現
- 1
在評估 315 個多模態臨床案例後，醫師對代理型 AI 的認知信任與行為依賴均顯著高於非代理型模型（P < 0.001）。
- 2
在治療計畫任務中，醫師對代理型推理展現出極高的信任度，在 89.57% 的案例中傾向於選擇該模型。
- 3
研究發現過程導向的認知信任與結果導向的行為依賴之間存在顯著的正相關性（P < 0.001）。
- 4
儘管透明度提升，醫師仍對錯誤的代理型輸出存在可衡量的過度依賴現象，顯示僅靠邏輯透明度不足以完全消除風險。
對教育工作者的啟發
雖然此研究聚焦於醫療，但對教育科技設計者有重要啟發：在開發輔助學習或教學決策的 AI 時，應強調「過程透明化」（如展示 AI 如何檢索知識或推理步驟），這能建立學習者或教師對 AI 的信任。然而，設計者必須同時建立「批判性檢視機制」，防止使用者因 AI 邏輯看起來很合理而產生過度依賴（Over-reliance），導致學習者放棄自主思考。建議在 AI 介面中加入引導使用者進行批判性評估的提示，以平衡信任與監督。
原始文獻資訊
- 英文標題：
- Agentic AI Enhances Physician Trust in Clinical Decision Making
- 作者：
- Zhiling Yan, Zhe Fang, David J King, Ann Pongsakul, Eashan Adhikarla, Hui Ren, Sunyang Fu, Quanzheng Li, Lifang He, Xiang Li, Hongfang Liu, Yonghui Wu, Lichao Sun
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。