aiedtechmetacognitioncognitiveoffloadingmoralpersuasion

大型語言模型對老年人道德判斷的反駁：認知卸載還是道德說服的脆弱性？

arXiv - Human-Computer InteractionKou Tamura, Sayaka Ishibashi, Ayana Goma, Kenta Yamamoto, Kouhei Masumoto

LLM 生成的反駁能改變 30% 以上老年人與年輕人道德判斷，且低認知功能者更易受影響，顯示 LLM 既可作認知卸載亦可能帶來說服風險。

AI 幫你先抓重點

AI 重點 1

LLM 反駁能在道德決策中產生高達 30% 的判斷改變，提示教育者需評估 AI 介入的說服風險。

滑鼠懸停看 AI 判斷理由
此洞察顯示 AI 可顯著改變道德判斷，對於設計 AI 工具的教育者而言，必須避免無意中影響學生的價值觀，確保倫理使用。
AI 重點 2

低認知功能者對 LLM 反駁更敏感，說明 AI 作為認知卸載工具時需針對脆弱族群加強保護。

滑鼠懸停看 AI 判斷理由
此點提醒教育者在使用 AI 協助決策時，必須平衡其輔助效益與對易受影響者的風險，並制定相應的安全機制。

核心研究發現

  1. 1

    超過 30% 參與者在兩種電車難題中因 LLM 反駁而改變道德判斷（switch 32.31%，footbridge 36.92%）。

  2. 2

    老年人比年輕人更易改判，且在 switch 隊題中改判幅度更大；在 footbridge 隊題中，低認知功能老年人更易接受 LLM 反駁。

  3. 3

    AI 一般信任度與 LLM 影響力無關，個人初始信心低與任務難度高則更易受 AI 影響。

對教育工作者的啟發

在設計 AI 辅助决策工具时，应先评估目标群体的认知水平与信心；为低认知功能者提供透明的反驳来源与多元观点；在教学中加入关于 AI 说服机制的元认知训练；监测学生对 AI 生成内容的信任与接受度，以避免过度依赖。

原始文獻資訊

英文標題：
Large Language Model Counterarguments in Older Adults: Cognitive Offloading or Vulnerability to Moral Persuasion?
作者：
Kou Tamura, Sayaka Ishibashi, Ayana Goma, Kenta Yamamoto, Kouhei Masumoto
來源：
arXiv - Human-Computer Interaction
AI 摘要模型：
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。