支援升級焦慮：LLM對發洩與求助的調節與升級
arXiv - Human-Computer InteractionVivienne Bihe Chi, Adithya V Ganesan, Ryan L Boyd, Lyle Ungar, Sharath Chandra Guntuku
LLM對發洩與求助的回應同時調節與升級焦慮，且人類評估難以辨識升級。
AI 幫你先抓重點
AI 重點 1
發洩型求助同時引發調節與升級，表明表面支持可能隱含風險。
滑鼠懸停看 AI 判斷理由
此發現挑戰了「同理心即安全」的假設，提醒設計者必須同時監測調節與升級兩項指標，否則可能無意中加劇使用者焦慮。
AI 重點 2
「治療師」人格能有效降低升級，同時保持調節，顯示人格設計可作為安全調節工具。
滑鼠懸停看 AI 判斷理由
這說明簡單的角色提示即可改變LLM行為，為開發更安全的輔助對話系統提供了可操作的設計方向。
核心研究發現
- 1
兩種求助風格（發洩與尋求建議）在178,800條Reddit貼文中可透過語言特徵區分。
- 2
研究建立了基於人際情緒調節理論的測量框架，將調節與升級視為獨立維度。
- 3
GPT‑5.3在不同人格設定下的回應與求助風格一致：發洩引發更多調節與升級。
- 4
「治療師」人格在降低升級的同時維持調節效果，而「朋友」人格則同時增加兩者。
對教育工作者的啟發
1) 在設計LLM輔助工具時，應同時評估調節與升級兩項指標，避免單純依賴同理心分數。2) 透過加入「治療師」人格設定，可降低升級風險，保持情緒調節效果。3) 對於發洩型求助者，需特別設計回應策略以抑制升級。4) 進行人類評估時，應配備專業評審以辨識潛在升級。5) 建議開發者建立多維安全評估流程，結合自動化指標與人工審核。
原始文獻資訊
- 英文標題：
- When Support Escalates Distress: Regulation and Escalation in LLM Responses to Venting and Advice-Seeking
- 作者：
- Vivienne Bihe Chi, Adithya V Ganesan, Ryan L Boyd, Lyle Ungar, Sharath Chandra Guntuku
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。