「信任垃圾」：數據視覺化可能導致對歧視性預測模型的盲目信任
arXiv - Human-Computer InteractionMichael Correll, Lucy Havens, Mahsan Nourani
研究發現，在可解釋人工智慧（XAI）中提供過多或無關的數據視覺化，會使使用者對具歧視性的模型產生不合理的信任。
AI 幫你先抓重點
AI 重點 1
警惕「資訊過載」在可解釋人工智慧中的負面效應
滑鼠懸停看 AI 判斷理由
傳統觀念認為資訊越豐富解釋力越強，但此研究揭示了「資訊冗餘」可能成為一種修辭手段，掩蓋模型本身的缺陷，這對於設計透明且負責任的 AI 系統至關重要。
AI 重點 2
視覺化設計不應僅追求「準確」，更需追求「相關性」與「倫理透明度」
滑鼠懸停看 AI 判斷理由
設計者若僅專注於數據的正確性而忽略了視覺化對人類認知偏誤的誘導作用，可能會無意中成為歧視性技術的推手，改變了我們對 AI 治理的理解。
核心研究發現
- 1
在可解釋人工智慧（XAI）的脈絡下，數據視覺化的說服力可能產生負面影響，導致使用者對預測模型產生過度信任。
- 2
即使模型本身具有明顯的歧視性與不公平性，提供準確但多餘或無關的數據解釋，仍會引發使用者對模型的正面信念。
- 3
視覺化呈現的資訊品質與相關性，會直接影響使用者對模型決策邏輯的判斷，進而產生不合理的信任感。
對教育工作者的啟發
對於開發教育科技工具或 AI 輔助教學系統的設計者而言，應避免僅透過堆砌數據圖表來增加系統的「權威感」。在設計 AI 學習分析或自動評分系統的解釋介面時，必須確保視覺化資訊與決策邏輯具有高度相關性，而非僅提供看似專業但無關的數據。設計者應建立審核機制，評估視覺化呈現是否可能誘導教師或學生對錯誤或具偏見的 AI 建議產生盲目信任，確保技術的透明度是為了促進批判性思考，而非掩蓋系統偏誤。
原始文獻資訊
- 英文標題：
- "Trust Junk" Leads to Unjustified Support for Highly Discriminatory Predictive Models
- 作者：
- Michael Correll, Lucy Havens, Mahsan Nourani
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。