具說服力與敘事性 LLM 解釋對人類決策影響之研究
arXiv - Human-Computer InteractionLaura R. Marusich, Mary Grace Kozuch Dhooghe, Jonathan Z. Bakdash, Murat Kantarcioglu
研究發現 LLM 的敘事性解釋雖能增加人類對 AI 的依賴，但並未提升決策準確度，甚至可能干擾判斷力。
AI 幫你先抓重點
AI 重點 1
警惕「說服力」與「正確性」之間的認知陷阱
滑鼠懸停看 AI 判斷理由
這項發現挑戰了「解釋越好，決策越佳」的直覺。在教育或專業決策場景中，過於流暢且具說服力的 AI 敘事可能導致使用者產生過度信任（Over-reliance），進而放棄批判性思考，這對於培養學生的自主學習與判斷力具有警示意義。
AI 重點 2
AI 解釋可能成為決策效率的阻礙
滑鼠懸停看 AI 判斷理由
研究指出敘事性解釋可能增加反應時間並降低辨別力。這意味著在設計 AI 輔助學習工具時，我們不能盲目追求「擬人化」或「故事化」的解釋，必須權衡解釋的深度與使用者認知負荷之間的關係。
核心研究發現
- 1
LLM 解釋的說服力程度對人類決策的準確性沒有顯著影響，其表現與僅提供 AI 預測結果的情況相似。
- 2
敘事性解釋會增加人類對 AI 的依賴程度，無論 AI 的預測結果是正確還是錯誤。
- 3
高度具說服力的敘事可能會對決策反應時間產生負面影響，並降低人類辨別 AI 預測正確與錯誤的能力。
對教育工作者的啟發
對於教育科技設計者而言，此研究提醒我們在開發 AI 輔助教學工具（如自動評分或學習建議系統）時，應避免設計過於「具說服力」的敘事，以免學生產生盲目依賴。建議採取「結構化」而非「敘事化」的解釋方式，強調邏輯與證據，並刻意設計「認知衝突」或「批判性檢核」環節，引導學生辨別 AI 的正確與錯誤，從而促進高階思維與元認知能力的發展，而非僅僅是接受 AI 給出的答案。
原始文獻資訊
- 英文標題：
- Human Decision-Making with Persuasive and Narrative LLM Explanations
- 作者：
- Laura R. Marusich, Mary Grace Kozuch Dhooghe, Jonathan Z. Bakdash, Murat Kantarcioglu
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。