超越可解釋人工智慧：迫切的範式轉變與後XAI研究方向
arXiv - Computers and SocietySaleh Afroogh, Syed Ishtiaque Ahmed, Petra Ahrweiler, David Alvarez-Melis, Mansur Maturidi Arief, Emilia Barakova, Falco J. Bargagli-Stoffi, Erdem Biyik, Hanjie Chen, Xiang 'Anthony' Chen, Robert Alan Clements, Keeley Crockett, Amit Dhurandhar, Fethiye Irmak Dogan, Mollie Dollinger, Motahhare Eslami, Aldo A Faisal, Arya Farahi, Melanie F. Pradier, Saadia Gabriel, Diego Garcia-Olano, Marzyeh Ghassemi, Shaona Ghosh, Hatice Gunes, Ehsan Hajiramezanali, Stefan Haufe, Biwei Huang, Angel Hwang, Md Tauhidul Islam, Junfeng Jiao, Amir-Hossein Karimi, Saber Kazeminasab, Anastasia Kuzminykh, William La Cava, Brian Y. Lim, Xiaofeng Liu, Mohammad R. K. Mofrad, Alicia Parrish, Maria Perez-Ortiz, Shriti Raj, Swabha Swayamdipta, Salmonn Talebi, Kush R. Varshney, Mihaela Vorvoreanu, Lily Weng, Alice Xiang, Yiming Xu, Ding Zhao, Jieyu Zhao
本文揭示XAI的根本矛盾與假設缺陷，並提出四項新範式以實現可靠、可證實的AI系統。
AI 幫你先抓重點
AI 重點 1
將重心從事後解釋轉向驗證與認證，確保AI性能可被科學社群驗證。
滑鼠懸停看 AI 判斷理由
此觀點強調XAI在實務中往往無法提供可操作的保證，轉向驗證可直接提升系統可靠性與使用者信任，改變開發者與政策制定者的評估標準。
AI 重點 2
引入AI認識論與使用者感知AI，強調知識基礎與情境適應性。
滑鼠懸停看 AI 判斷理由
透過建立嚴謹的科學基礎與針對特定使用者社群的設計，可避免單一解釋模式對多元需求的偏差，提升AI在教育與決策場域的實用性。
核心研究發現
- 1
XAI在實驗上存在顯著缺陷，概念上呈現兩大矛盾，實務上造成混亂與誤導。
- 2
作者指出XAI研究中存在兩個矛盾、兩個概念混淆與五個錯誤假設，揭示其根本問題。
- 3
為解決上述問題，提出四項核心組件：驗證導向的互動AI、AI認識論、使用者感知AI與模型中心可解釋性。
對教育工作者的啟發
對教育工作者而言，首先應選擇已經通過驗證與認證的AI工具，避免僅依賴事後解釋。其次，在課程設計中加入使用者感知AI原則，確保系統能根據學生背景與學習目標自適應。再者，教育機構可與AI開發者合作，推動模型中心可解釋性研究，確保模型決策透明且可追蹤。最後，建立跨部門的AI倫理與認識論工作坊，提升教師與學生對AI技術的批判性理解，促進安全、負責任的AI應用。
原始文獻資訊
- 英文標題：
- Beyond Explainable AI (XAI): An Overdue Paradigm Shift and Post-XAI Research Directions
- 作者：
- Saleh Afroogh, Syed Ishtiaque Ahmed, Petra Ahrweiler, David Alvarez-Melis, Mansur Maturidi Arief, Emilia Barakova, Falco J. Bargagli-Stoffi, Erdem Biyik, Hanjie Chen, Xiang 'Anthony' Chen, Robert Alan Clements, Keeley Crockett, Amit Dhurandhar, Fethiye Irmak Dogan, Mollie Dollinger, Motahhare Eslami, Aldo A Faisal, Arya Farahi, Melanie F. Pradier, Saadia Gabriel, Diego Garcia-Olano, Marzyeh Ghassemi, Shaona Ghosh, Hatice Gunes, Ehsan Hajiramezanali, Stefan Haufe, Biwei Huang, Angel Hwang, Md Tauhidul Islam, Junfeng Jiao, Amir-Hossein Karimi, Saber Kazeminasab, Anastasia Kuzminykh, William La Cava, Brian Y. Lim, Xiaofeng Liu, Mohammad R. K. Mofrad, Alicia Parrish, Maria Perez-Ortiz, Shriti Raj, Swabha Swayamdipta, Salmonn Talebi, Kush R. Varshney, Mihaela Vorvoreanu, Lily Weng, Alice Xiang, Yiming Xu, Ding Zhao, Jieyu Zhao
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。