助手還是執行者？學生使用通用 AI Agent 時的信任、控制感與委派後悔
arXiv - Human-Computer InteractionShiva Pochampally, Shengwei An, Yan Chen
研究探討了當 AI 從回答問題轉向執行任務時，使用者如何因缺乏預覽機制而產生「委派後悔」現象。
AI 幫你先抓重點
AI 重點 1
區分「諮詢型輸出」與「代理型執行」的設計必要性
滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 工具功能的認知。開發者不應僅追求 AI 的自動化程度，而應明確區分哪些是建議，哪些是會直接改變現實世界的動作，以降低使用者的心理負擔與後悔感。
AI 重點 2
「委派後悔」是衡量 AI 代理效能的新維度
滑鼠懸停看 AI 判斷理由
過去我們衡量 AI 僅看準確度，但本研究指出，即使結果正確，若過程缺乏控制感，使用者仍會感到不滿。這提醒設計者在開發教育輔助工具時，透明度與控制權比單純的正確率更重要。
核心研究發現
- 1
使用者會根據任務性質而非 Agent 本身來校準信任：對於諮詢類或低風險任務會給予高度自主權，但對於不可逆且具外部可見性的動作則要求確認。
- 2
信任流失的主因並非單純的高風險，而是「不可逆性」結合「外部可見性」；例如中等風險但具外部影響力的郵件任務，會導致信任度大幅下降。
- 3
即使 AI 成功完成了任務，若在執行動作前未提供預覽機制，使用者仍會產生「委派後悔」，即後悔讓 Agent 行動超出了其授權範圍。
對教育工作者的啟發
在設計用於教育情境的 AI Agent（如自動批改、自動發送通知或管理學習進度）時，應採取「分層授權」策略。首先，系統應明確區分「建議模式」與「執行模式」；其次，對於具有不可逆性（如刪除紀錄）或外部可見性（如發送給老師或家長的訊息）的動作，必須強制加入「預覽與確認」步驟。這能幫助學生在利用 AI 提升效率的同時，維持對學習過程的掌控感，避免因 AI 的過度自主行為而導致學習者對技術產生不信任感。
原始文獻資訊
- 英文標題：
- Assistant or Actor? Student Trust, Control, and Delegation Regret When Using a General-Purpose AI Agent
- 作者：
- Shiva Pochampally, Shengwei An, Yan Chen
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。