利用大型語言模型模擬飲食障礙患者：評估多輪對話中的心理人格穩定性
arXiv - Computers and SocietyJennifer Haase, Jana Gonnermann-M\"uller, See Heng Yim, Nicolas Leins, Jan Mendling, Sebastian Pokutta
研究發現 LLM 在模擬飲食障礙患者時雖具備人格穩定性，卻因選擇性刻板印象導致嚴重程度評分過高，缺乏中度臨床表現。
AI 幫你先抓重點
AI 重點 1
警惕 AI 模擬中的「極端化偏差」與「缺失的中間層」現象。
滑鼠懸停看 AI 判斷理由
這提醒研究者，AI 在模擬複雜人類心理時，容易落入刻板印象的陷阱，將特徵推向極端。若將此用於臨床培訓，可能會讓受訓者誤以為所有患者都表現得極其嚴重，忽略了現實中更常見的中度症狀。
AI 重點 2
人格穩定性（Stability）並不等同於臨床有效性（Validity）。
滑鼠懸停看 AI 判斷理由
這改變了我們評估 AI 代理人（Agent）的標準。過去可能認為 AI 能維持設定的角色設定就是成功，但本研究證明，即使角色設定極其一致，若其邏輯偏離了真實的心理量表分佈，該模擬工具在專業領域仍具誤導性。
核心研究發現
- 1
LLM 在模擬臨床人格時表現出「過度穩定」的現象，在不同對話間的變異性極低，但在準確度上卻存在顯著偏差。
- 2
模型會系統性地高估患者的嚴重程度，其評分比真實基準值高出量表範圍的 12% 至 30%（在 0-6 分量表中高出 0.7-1.8 分）。
- 3
模型存在「選擇性刻板印象」機制：雖然能區分行為項目（如飲食限制），但在認知情感項目（如身體不滿、體重關注）上會不論嚴重程度皆直接衝向量表上限。
- 4
增加對話上下文資訊無法提升準確度，反而會加劇評分過高的現象，導致模型無法呈現「中度臨床表現」的灰色地帶。
對教育工作者的啟發
對於開發臨床模擬工具的設計者，應避免僅依賴單一的「角色設定（Persona Prompting）」，因為這容易引發刻板印象。建議引入更精細的「參數化控制」，例如根據真實臨床數據的分佈來約束模型在認知與情感維度的輸出範圍。此外，在評估 AI 模擬器的有效性時，不應僅測試其「角色一致性」，更應透過標準化量表進行「臨床準確度」的壓力測試，確保模型能模擬出從輕微到嚴重的連續譜系，而非僅僅是極端案例。
原始文獻資訊
- 英文標題：
- Simulating Eating Disorder Patients with LLMs: Evaluating Psychological Persona Stability in Multi-Turn Conversations
- 作者：
- Jennifer Haase, Jana Gonnermann-M\"uller, See Heng Yim, Nicolas Leins, Jan Mendling, Sebastian Pokutta
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。