以人為本的 AI 設計需求：干預能力（Intervenability）
arXiv - Computers and SocietyThomas Herrmann
本文提出「干預能力」作為以人為本 AI 的新設計維度，旨在強化人類對 AI 系統的控制、自主與監督能力。
AI 幫你先抓重點
AI 重點 1
將「干預」視為一種從即時控制到決策支持的連續光譜。
滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 控制權的認知，不再僅僅是「開或關」，而是讓使用者能根據任務複雜度，在不同心理負載下與 AI 協作，這對設計複雜的學習輔助系統至關重要。
AI 重點 2
干預不僅是修正錯誤，更是系統進化的循環過程。
滑鼠懸停看 AI 判斷理由
這強調了「人機協作」的動態性。透過人類的干預行為，可以收集數據來優化 AI，同時也讓使用者在介入過程中提升自身能力，實現技術與人類能力的雙向成長。
核心研究發現
- 1
定義了「干預能力」這一全新概念，區別於傳統的緊急關機、權宜措施或系統重新配置，強調人類與 AI 的深度互動。
- 2
提出了一套干預活動的分類法（Taxonomy），根據用戶所需的心理努力程度，將干預範圍從即時流程控制擴展至離散的決策支持。
- 3
指出干預能力能促進人類能力的發展，並透過干預後的反饋，推動 AI 系統從單純的干預轉向自動化的重新配置與技術改進。
對教育工作者的啟發
對於教育科技開發者而言，設計 AI 學習助手時，不應僅追求「自動化」或「全自動教學」，而應設計具備「干預能力」的介面。這意味著系統應允許教師或學生在 AI 給出建議時，能根據情境進行調整、修正或介入決策。這種設計能防止學習者過度依賴 AI，並透過「介入—反饋—優化」的循環，讓 AI 成為促進自主學習（SRL）的工具，而非取代思考的黑盒。開發者應考慮不同層次的干預選項，以符合使用者在不同學習階段的心理負荷需求。
原始文獻資訊
- 英文標題：
- Intervenability as a Design Requirement for Autonomy and Oversight within Human-Centered AI
- 作者：
- Thomas Herrmann
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。