評估分層強化學習策略在人機協作中的可解釋 AI 支援效果
arXiv - Human-Computer InteractionMateus Levi Sim\~oes Fernandes, Alberto Sardinha
研究發現 XAI 的呈現模態會影響人機夥伴關係，語音解釋可能因無法滿足預期而降低協作連結感。
AI 幫你先抓重點
AI 重點 1
解釋模態（文字 vs. 語音）對心理預期的影響不對等
滑鼠懸停看 AI 判斷理由
這改變了我們對 XAI 設計的認知：解釋不只是資訊傳遞，更是一種心理暗示。語音具有更強的社交屬性，若 AI 的行為能力跟不上語音所建立的「擬人化夥伴感」，反而會造成使用者的挫折感與信任崩解。
AI 重點 2
內在可解釋性（Intrinsic Explainability）優於人工設計規則
滑鼠懸停看 AI 判斷理由
傳統 XAI 多依賴人工撰寫規則，難以泛化。透過分層強化學習產生的解釋更具系統性，這為未來開發能與人類進行複雜、動態協作的智慧代理人提供了更穩健的技術路徑。
核心研究發現
- 1
在 Overcooked-AI 環境下的實驗顯示，提供解釋雖未顯著提升整體表現，但有助於參與者更快提升操作效能。
- 2
語音解釋會顯著降低參與者與 AI 代理人之間的「工作聯盟連結感」（working-alliance bond），此現象在文字模態中並未出現。
- 3
研究指出語音解釋會激發使用者對「夥伴關係」的高預期，但底層的反應式強化學習策略卻無法達到該預期，導致落差。
- 4
本研究首次在標準基準環境中，對具備內在可解釋性的強化學習架構進行了系統性的評估與模態比較。
對教育工作者的啟發
在設計教育輔助 AI（如 AI 助教或協作夥伴）時，不應僅關注資訊的準確性，更需考量「模態與能力的匹配」。若 AI 的行為邏輯仍屬於反應式、非高度擬人化的階段，建議優先使用文字解釋而非語音，以避免過度建立使用者的社交預期，進而導致學習者對 AI 的信任度下降。在開發協作式學習工具時，應確保 AI 提供的解釋層級與其展現的協作能力相稱，以維持穩定的學習夥伴關係。
原始文獻資訊
- 英文標題：
- Evaluating XAI Support From A Hierarchical Reinforcement Learning Policy in Human-Agent Collaboration
- 作者：
- Mateus Levi Sim\~oes Fernandes, Alberto Sardinha
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。