具身解釋性與本體論障礙：為何我們難以解釋大型語言模型的答案
arXiv - Human-Computer InteractionMarvin Pafla, Jesse Hoey, Kate Larson, Mark Hancock
本文挑戰將解釋性視為模型內部的觀點，主張應從「具身認知」角度出發，將解釋視為使用者在實踐中互動產生的理解過程。
AI 幫你先抓重點
AI 重點 1
將解釋性從「模型屬性」轉向「具身互動過程」
滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 透明度的認知。解釋不應只是顯示模型「想什麼」，而應是設計出能讓使用者在實際任務中透過互動來「理解什麼」的工具，這對設計人機互動介面至關重要。
AI 重點 2
警惕解釋性帶來的「過度依賴」風險
滑鼠懸停看 AI 判斷理由
當解釋被誤解為模型內部的絕對真理時，使用者會盲目信任 AI。理解這一點能幫助開發者設計更具批判性的解釋機制，讓使用者在發現錯誤時能及時進行「修復」而非盲從。
核心研究發現
- 1
現有的可解釋人工智慧（XAI）常將解釋視為模型內部的屬性，透過提取內部資訊來呈現給用戶，這忽略了理解是發生在互動過程中的。
- 2
「觀察模型內部」存在本體論障礙，因為代理模型（surrogates）常引入外部抽象概念，導致使用者誤以為這些概念是模型本身的邏輯。
- 3
過度關注模型內部的推理過程會忽略解釋者本身在理解過程中所扮演的主動角色，導致解釋的定義與目的產生偏差。
- 4
錯誤的解釋命名可能導致使用者對 AI 產生過度依賴，因為目前的解釋往往無法提供在實際情境中進行探測、協調與修復行為的支撐。
對教育工作者的啟發
對於教育科技開發者而言，設計 AI 輔助學習工具時，不應僅僅提供「AI 為什麼這樣回答」的靜態說明，而應設計具備「可操作性」的介面。例如，提供讓學生能透過調整參數、進行對照實驗或挑戰 AI 邏輯的互動功能（Affordances），讓學生在與 AI 的協作過程中，透過主動探測與修復錯誤來建構深層理解，而非被動接受 AI 給出的解釋。
原始文獻資訊
- 英文標題：
- Embodied Explainability and Ontological Obstacles: Why We Struggle to Explain the Answers of Large Language Models (LLMs)
- 作者：
- Marvin Pafla, Jesse Hoey, Kate Larson, Mark Hancock
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。