aiedtechhigher educationlearning designmetacognition

LLM驅動社群對錯誤訊息的韌性研究

arXiv - Computers and SocietyChichen Lin, Yijie Jin, Kangbo Hu, Weijian Fan, Han Xiao, Yongbin Wang, Zhihui Ying, Zhanzhan Zhao

研究LLM代理社群在面對可信錯誤訊息時，透過證據導向思考與政治立場影響抵抗與恢復。

AI 幫你先抓重點

AI 重點 1

證據導向思考（AOT）是提升社群抵抗與恢復的關鍵因素

滑鼠懸停看 AI 判斷理由
聚焦於培養開放思維能有效增強學習者辨識與修正錯誤訊息的能力，對課程設計與學習策略調整具有直接指導意義。
AI 重點 2

政治立場中立的社群更易恢復，偏激社群則易保留錯誤支持

滑鼠懸停看 AI 判斷理由
揭示意識形態極化對資訊處理的長期影響，提醒教育政策制定者在設計干預時必須考慮多元立場的差異，以避免加劇偏見。
AI 重點 3

事實核查與說服比單純提示更有效於事後糾正

滑鼠懸停看 AI 判斷理由
指出互動式介入在糾正錯誤訊息方面的優勢，促使教育科技開發者設計更具參與感與說服力的工具。

核心研究發現

  1. 1

    較高的證據導向思考（AOT）能同時提升社群對錯誤訊息的抵抗力與在信任高峰後的恢復速度。

  2. 2

    政治立場（PI）決定恢復路徑：中立社群恢復更可靠，極端社群則保留更多錯誤支持。

  3. 3

    立場層級分析顯示，從質疑到否定或糾正並撤回先前支持的行為，是社群韌性關鍵。

  4. 4

    干預實驗顯示說服與事實核查對事後糾正最有效，單純準確提示僅促早期謹慎，來源警示效果較弱。

對教育工作者的啟發

教育工作者可利用LLM代理模擬，先評估學習者的證據導向思考與政治立場，針對高AOT群體設計更簡單的事實核查介入；對低AOT或極端立場者，則需結合說服與多元來源提示，並持續追蹤其立場轉變。此方法可在課程設計中嵌入即時糾錯機制，提升學習者對錯誤訊息的辨識與修正能力。

原始文獻資訊

英文標題：
You Can't Fool Us: Understanding the Resilience of LLM-driven Agent Communities to Misinformation
作者：
Chichen Lin, Yijie Jin, Kangbo Hu, Weijian Fan, Han Xiao, Yongbin Wang, Zhihui Ying, Zhanzhan Zhao
來源：
arXiv - Computers and Society
AI 摘要模型：
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。