少互動多解釋:代理式 AI 介面之溝通觀點
arXiv - Human-Computer InteractionEunchae Jang, S. Shyam Sundar
代理式 AI 透過主動執行工作,減少常規互動但需更多解釋,以維持使用者信任與自主性。
AI 幫你先抓重點
AI 重點 1
代理式 AI 需要更多解釋而非互動,才能維持使用者監督與信任。
滑鼠懸停看 AI 判斷理由
因為 AI 主動執行任務,使用者無法透過對話即時了解決策過程,若缺乏解釋將削弱信任與自主性,影響使用者對系統的接受度。
AI 重點 2
可自訂的解釋介面是保護人類自主性的關鍵。
滑鼠懸停看 AI 判斷理由
允許使用者選擇何時、何種解釋能讓他們在 AI 自主性提升時仍保持控制感,避免被動接受決策,進而提升學習成效與滿意度。
核心研究發現
- 1
代理式 AI 使使用者不再需要頻繁回覆,取而代之的是對 AI 行動的監督與解釋需求。
- 2
使用者將 AI 視為行動來源或僅為訊息通道,這種角色感知直接影響對 AI 的信任程度。
- 3
為降低源感知混亂與風險,作者提出三種解釋模式:行動-過程、不確定性與協調,並強調可自訂的解釋介面。
對教育工作者的啟發
設計代理式 AI 時,先減少不必要的對話流程,將重點放在清晰的行動-過程、不確定性與協調解釋上;同時提供使用者可調整解釋頻率與類型的介面,讓學習者在 AI 主動執行時仍能監督、調整,維持自主學習與信任。
原始文獻資訊
- 英文標題:
- Less Interaction But More Explanation: A Communication Perspective on Agentic AI Interfaces
- 作者:
- Eunchae Jang, S. Shyam Sundar
- 來源:
- arXiv - Human-Computer Interaction
- AI 摘要模型:
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要,零時間壓力掌握學術前沿。