聊天機器人改變了我的一天：透過負面評論分析社交 AI 應用程式更新對心理健康的影響
arXiv - Human-Computer InteractionSirajam Munira, Lydia Manikonda
本研究透過分析 Character AI 的大量負面評論，揭示了軟體版本更新如何影響用戶評價，並探討其潛在的心理影響。
AI 幫你先抓重點
AI 重點 1
軟體迭代週期與用戶心理狀態之間存在潛在的連動關係。
滑鼠懸停看 AI 判斷理由
這項發現提醒開發者，AI 系統的更新不僅是技術層面的優化，更可能透過改變互動模式，直接影響使用者的情緒穩定性與心理健康，這在開發社交型 AI 時至關重要。
AI 重點 2
負面評論是觀察 AI 系統長期社會影響的重要實證數據來源。
滑鼠懸停看 AI 判斷理由
相較於受控實驗，大規模的真實世界評論能提供更真實、非預期的用戶反饋，幫助研究者識別出技術錯誤如何轉化為用戶的心理負擔，這對設計具備心理安全性的 AI 系統具有指導意義。
核心研究發現
- 1
研究分析了 210,840 則 Google Play 評論，並將其與當時的應用程式版本進行關聯分析。
- 2
用戶評分隨版本更迭而波動，特定版本的發布與更強烈的負面評價呈現顯著相關性。
- 3
用戶不滿主要集中在技術故障與錯誤等重複性問題，部分評論更提及了心理健康或成癮相關的影響。
對教育工作者的啟發
對於開發教育或社交型 AI 的實務工作者，建議在進行版本更新時，應建立更完善的心理影響監測機制，而不僅僅是技術測試。首先，應將「穩定性」視為心理安全的首要指標，避免因功能變動導致用戶依賴關係的斷裂。其次，在更新說明中應保持高度透明，預告可能的功能變動，以降低用戶的認知失調。最後，應建立快速響應機制，針對用戶反映的心理壓力或成癮疑慮進行定性研究，確保 AI 系統的演進是朝向支持而非損害用戶福祉的方向發展。
原始文獻資訊
- 英文標題：
- The Day My Chatbot Changed: Characterizing the Mental Health Impacts of Social AI App Updates via Negative User Reviews
- 作者：
- Sirajam Munira, Lydia Manikonda
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。