高風險人工智慧中的人機互動：人類代理與因果控制
arXiv - Human-Computer InteractionGeorges Hattab
本文指出，保護人類在高風險 AI 系統中的因果控制比信任更為關鍵，並提出整合因果模型與不確定性量化的 Causal-Agency Framework 以恢復介面中的人類代理。
AI 幫你先抓重點
AI 重點 1
重視因果控制而非單純信任，因為人類代理是高風險 AI 成功的關鍵。
滑鼠懸停看 AI 判斷理由
若只強調信任，使用者仍可能因介面誤導而做出錯誤決策；因果控制能讓使用者理解決策背後的邏輯，提升安全性與可控性。
AI 重點 2
介面必須呈現模型的不確定性，避免僅顯示相關性。
滑鼠懸停看 AI 判斷理由
不確定性呈現能讓使用者評估決策風險，減少因過度自信而產生的錯誤；這對高風險領域（如醫療、金融）尤為重要。
核心研究發現
- 1
高風險 AI 系統的核心挑戰是維護人類的因果控制，而非單純的信任問題。
- 2
作者將「壞 AI」比作「壞 UI」，指出介面失效會誤導使用者，導致錯誤決策。
- 3
現行的 Explainable AI 主要聚焦於相關性，未能有效呈現模型的不確定性。
- 4
提出的 Nested Causal-Agency Framework (CAF) 結合因果模型、不確定性量化與以人為中心的評估，旨在恢復介面中的人類代理。
對教育工作者的啟發
對於教育科技工作者而言，若要將 AI 工具整合進課程，必須先評估其介面是否能清晰呈現因果關係與不確定性。建議在設計 AI 辅助教學系統時：1) 以因果圖或流程圖說明模型決策邏輯，讓學生能追蹤因果鏈；2) 在輸出結果旁加入置信度或不確定性指標，促使學生進行批判性思考；3) 進行使用者測試，收集教師與學生對介面透明度與可控性的回饋，並迭代優化；4) 在課程中加入「AI 介面評估」的學習單元，培養學生的元認知與自我調節能力。這些做法可提升學生對 AI 工具的信任度，同時維持其自主學習與決策的主動性。
原始文獻資訊
- 英文標題：
- Human Agency, Causality, and the Human Computer Interface in High-Stakes Artificial Intelligence
- 作者：
- Georges Hattab
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。