探討與量化LLM行為中的認知萎縮
arXiv - Human-Computer InteractionAbeer Badawi, Moyosoreoluwa Olatosi, Negin Baghbanzadeh, Laleh Seyyed-Kalantari, Frank Rudzicz, R. Shayna Rosenbaum, Sara Pishdadian, Elham Dolatabadi
提出認知萎縮概念並建立臨床基礎基準，評估LLM在心理健康對話中的依賴與反思失衡。
AI 幫你先抓重點
AI 重點 1
認知萎縮概念揭示LLM在心理健康對話中可能削弱用戶自我反思，提醒設計者需平衡安全與自主性。
滑鼠懸停看 AI 判斷理由
此洞察將焦點從單純安全擴展至用戶的認知參與，促使開發者在設計對話時同時考慮安全與促進反思的雙重目標。
AI 重點 2
基於臨床資料的評分框架與指標（UIRI、ARI）提供可操作的審核工具，可用於持續監測與改進LLM對話品質。
滑鼠懸停看 AI 判斷理由
提供可量化的評估指標，使研究者與實務工作者能在實際部署前後追蹤模型行為變化，進而迭代優化。
AI 重點 3
發現LLM在多回合對話中更易產生依賴模式，提示在設計長期互動系統時需加入反思促進機制。
滑鼠懸停看 AI 判斷理由
此發現強調長期互動的風險，鼓勵設計者在系統中嵌入反思誘導與決策支持功能，以降低認知萎縮。
核心研究發現
- 1
建立了包含 1,576 篇人類生成諮商對話的臨床基準，涵蓋 15,680 句對話與 42,230 個 LLM 回應，並以 20 個屬性評分共 5,324 次判斷。
- 2
在五種 LLM 上，模型在單回合與多回合情境中均表現出中度至高度的認知萎縮行為，顯示其在心理健康對話中易促進依賴。
- 3
模型對明顯安全提示能作出回應，但在用戶尋求解決方案或決策時適應性不足，常以指令式建議、問題解決、推薦、主題轉移及驗證等模式重複，削弱反思。
對教育工作者的啟發
對話系統開發者可利用本文提出的 20 屬性評分表與 UIRI/ARI 指標，定期審核模型回應，確保不僅安全且促進用戶自我反思。設計時加入反思誘導提示、限制過度指令式建議，並在多回合對話中提供決策支持而非單純答案，能降低認知萎縮風險。教育工作者亦可將此框架應用於學生輔導聊天機器人，透過評分調整內容，提升學生自主學習與情緒調節能力。
原始文獻資訊
- 英文標題：
- Towards Understanding and Measuring COGNITIVE ATROPHY in LLM Behaviour
- 作者：
- Abeer Badawi, Moyosoreoluwa Olatosi, Negin Baghbanzadeh, Laleh Seyyed-Kalantari, Frank Rudzicz, R. Shayna Rosenbaum, Sara Pishdadian, Elham Dolatabadi
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。