警告 AI 可能出錯能增加智慧教學系統中的求助行為
arXiv - Human-Computer InteractionTomohiro Nagashima, Mirella Hladk\'y, Vera Rief
研究發現，僅需透過簡單的透明度干預（警告 AI 可能出錯），即可顯著增加學生的求助行為，而不影響系統實際表現。
AI 幫你先抓重點
AI 重點 1
透明度干預不一定要依賴複雜技術，簡單的文字提示即可改變學習行為。
滑鼠懸停看 AI 判斷理由
這挑戰了「提升 AI 透明度必須透過複雜演算法或視覺化數據」的傳統觀念。對於開發者而言，這意味著可以用極低的成本來校準學生的信任度，引導他們進入更積極的學習狀態。
AI 重點 2
信任校準（Trust Calibration）是 AI 輔助學習環境中的關鍵要素。
滑鼠懸停看 AI 判斷理由
當學生過度信任 AI 時，可能會盲目接受錯誤資訊；透過適度的「不信任感」引發求助行為，能促使學生更主動地參與問題解決過程，這對於培養自主學習能力至關重要。
核心研究發現
- 1
實驗結果顯示，收到 AI 可能出錯警告的學生，其向系統請求提示（hints）的次數顯著高於未收到警告的對照組。
- 2
儘管實驗組與對照組使用的智慧教學系統行為完全相同，但心理預期仍能有效改變學生的互動策略。
- 3
這種輕量化的透明度干預措施能夠影響學習者的行為模式，且不會對其即時的學習表現造成負面或正面的影響。
對教育工作者的啟發
課程設計者與 EdTech 開發者在設計 AI 教學代理（Pedagogical Agent）時，不應僅追求「完美無瑕」的形象，反而應考慮加入適度的「錯誤預警」。這種策略能有效引發學生的元認知監控，促使他們在遇到困難時更主動地尋求資源（如提示或求助），從而將 AI 從一個「給予答案的工具」轉化為「引發思考的對話者」。這種輕量化的設計能以極低的開發成本，提升學習者在面對 AI 幻覺（Hallucination）時的應對能力與自主學習策略。
原始文獻資訊
- 英文標題：
- Warning About AI Fallibility Increases Help-Seeking in an Intelligent Tutoring System
- 作者：
- Tomohiro Nagashima, Mirella Hladk\'y, Vera Rief
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。