生成式 AI 健康資訊信任度與學習依賴效應之實驗研究
arXiv - Computers and SocietyArif Ahmed, Gondy Leroy, Agrim Sachdeva, Philip Harber, Stephen A. Rains, Seokjun Youn, Prosanta Barai
研究發現學習到的 AI 依賴會削弱信任校準，使使用者更容易盲目信任錯誤的生成式 AI 健康資訊。
AI 幫你先抓重點
AI 重點 1
警惕「學習到的依賴」導致的信任校準失效。
滑鼠懸停看 AI 判斷理由
這項發現揭示了認知層面的風險：當使用者習慣於 AI 的輸出時，會形成一種自動化的信任模式，導致其失去批判性評估的能力，這對於依賴 AI 進行自主學習的學生來說極具威脅。
AI 重點 2
單純的介面視覺優化（如高亮）不足以解決過度依賴問題。
滑鼠懸停看 AI 判斷理由
這說明了技術干預不能僅停留在視覺層面，若要防止使用者盲目信任 AI，必須從認知負荷或元認知（metacognition）引導的角度，設計能促使使用者進行深度思考的互動機制。
核心研究發現
- 1
資訊準確性顯著提升使用者對 AI 的信任，而學習到的依賴感（learned dependency）與信任度呈正相關。
- 2
準確性與依賴感之間存在交互作用，高度依賴 AI 的使用者在面對錯誤資訊時，仍表現出較高的信任度。
- 3
單純使用文字高亮（text highlighting）技術無法顯著影響信任度，也無法緩解依賴感與信任之間的關係。
對教育工作者的啟發
教育工作者與教材設計者應意識到，學生在使用生成式 AI 時可能產生「認知惰性」。在課程設計中，不應僅教導如何使用 AI 獲取答案，而應強化「批判性評估」的訓練。建議開發具備「認知衝突」功能的學習工具，例如在 AI 提供答案時，要求學生先提出預測或進行查證，而非僅透過視覺高亮來提醒。教學目標應從「如何利用 AI 學習」轉向「如何在 AI 輔助下保持自主監控與批判思考」。
原始文獻資訊
- 英文標題：
- Trust in Generative AI for Health Information Consumption and the Effect of Learned Dependency: An Experimental Investigation
- 作者：
- Arif Ahmed, Gondy Leroy, Agrim Sachdeva, Philip Harber, Stephen A. Rains, Seokjun Youn, Prosanta Barai
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。