人類與人工智慧：促進值得信賴且可理解的協作關係
arXiv - Human-Computer InteractionGilbert Drzyzga
本研究探討了 AI 的可解釋性與可控性如何影響人機協作中的信任感與理解度。
AI 幫你先抓重點
AI 重點 1
建立信任不能僅依賴單一技術指標，需兼顧可解釋性與可控性。
滑鼠懸停看 AI 判斷理由
這改變了開發者僅追求演算法精準度的思維，強調在設計 AI 系統時，必須同時考慮使用者如何理解決策過程（解釋）以及如何介入決策（控制），才能達成真正的協作。
AI 重點 2
使用者對 AI 的認知存在高度異質性，無法採取「一體適用」的設計。
滑鼠懸停看 AI 判斷理由
這提醒設計者在開發教育科技工具時，必須考慮使用者的背景知識與經驗差異，提供具備彈性與情境感知能力的介面，而非僅提供標準化的 AI 輸出。
核心研究發現
- 1
研究發現「可解釋性」與「可控性」兩大主題對於建立人機信任至關重要，且受訪者普遍認同其重要性。
- 2
儘管兩大主題具備高度重要性，但受訪者在具體觀點上呈現出高度的分散性，顯示缺乏統一的標準。
- 3
個體對 AI 系統的感知受到技術知識、個人經驗、特定情境因素以及對系統理解程度的顯著影響。
對教育工作者的啟發
對於教育科技設計者而言，若要開發 AI 輔助學習工具（如 AI 教師或自動評分系統），不應僅追求功能的強大，更應設計「透明的學習路徑」。首先，應提供 AI 決策的理由（可解釋性），幫助學生理解為何獲得特定建議；其次，應賦予學習者調整 AI 參數或修正 AI 判斷的權限（可控性），以促進自主學習（SRL）。此外，設計時需考量學習者的數位素養差異，提供分層式的資訊呈現，以應對使用者在認知與經驗上的高度分歧。
原始文獻資訊
- 英文標題：
- Human and Artificial Intelligence - Promoting Trustworthy and Understandable Collaboration
- 作者：
- Gilbert Drzyzga
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。