當 AI 說「我也遇過類似情況」：同儕照護支持中的合成生活經驗悖論
arXiv - Computers and SocietyDrishti Goel, Violeta J. Rodriguez, Daniel S. Brown, Ravi Karkar, Dong Whi Yoo, Koustuv Saha
研究揭示 AI 在提供照護支持時，雖能模仿同儕語氣，卻會產生虛假的「合成生活經驗」，造成敘事真實性的落差。
AI 幫你先抓重點
AI 重點 1
警惕 AI 敘事中的「真實性落差」
滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 情感支持的認知。過去我們認為 AI 越像人越好，但本研究提醒，當 AI 模仿人類的經驗敘事時，可能會建立一種虛假的信任感，這在醫療或照護等高敏感領域具有倫理風險。
AI 重點 2
區分「情感支持」與「經驗證明」的設計需求
滑鼠懸停看 AI 判斷理由
這對於開發 AI 支持系統至關重要。開發者不應僅追求 AI 聽起來「像人」，而應設計機制讓 AI 在提供情緒價值（如驗證與溫暖）的同時，明確標示其缺乏真實生命經驗的事實。
核心研究發現
- 1
心理語言學分析顯示，人類同儕在支持時會使用顯著較多的第一人稱與過去式語言，而 AI 的語言模式則相對較弱。
- 2
研究識別出人類同儕支持中存在七種個人敘事類型，AI 雖能捕捉其中的情緒價值，卻會虛構缺乏真實基礎的經驗背景。
- 3
研究發現了「合成生活經驗悖論」，即 AI 透過模仿同儕語氣來提供溫暖與共鳴，卻可能誤導使用者認為 AI 擁有真實的生活經歷。
對教育工作者的啟發
對於開發情感支持或社交型 AI 的設計者，應避免讓模型直接使用「我曾經...」等暗示擁有真實生命經驗的語句。建議採取「透明化設計」：當 AI 進行情緒驗證（Validation）時，應專注於反映使用者的感受（例如：「聽起來這讓你感到很無助」），而非試圖透過虛構個人故事來建立連結。在設計對話框架時，應建立明確的邊界，讓使用者能區分 AI 提供的是「情感共鳴」而非「經驗分享」，以維護技術應用的倫理與真實性。
原始文獻資訊
- 英文標題：
- When AI Says "I have been in similar situations": Synthetic Lived Experience in Peer-Like Caregiver Support
- 作者：
- Drishti Goel, Violeta J. Rodriguez, Daniel S. Brown, Ravi Karkar, Dong Whi Yoo, Koustuv Saha
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。