表達社交情緒:大型語言模型與人類文化情緒規範之失配研究
arXiv - Computers and SocietySree Bhattacharyya, Manas Mehta, Leona Chen, Cristina Salvador, Agata Lapedriza, Shiran Dudy, James Z. Wang
研究發現大型語言模型在跨文化社交情緒表達上與人類行為存在系統性失配,且缺乏人類反應的多樣性。
AI 幫你先抓重點
AI 重點 1
警惕 AI 在跨文化情境中的「文化盲點」與誤導風險。
滑鼠懸停看 AI 判斷理由
當使用者誤以為 AI 具備文化敏感度時,可能會採納不符合其文化規範的建議。這提醒開發者與使用者,目前的 AI 並非文化中立,其內建的偏好可能導致跨文化溝通中的不當行為。
AI 重點 2
模型回應的「單一化」現象削弱了其模擬真實人類互動的能力。
滑鼠懸停看 AI 判斷理由
AI 回應過於趨同且缺乏多樣性,這意味著它難以模擬真實社會中複雜、多變的情緒互動。在需要高度社會化技能的教育或心理輔導場景中,這種缺乏變異性的特性可能導致教學效果失真。
核心研究發現
- 1
所有受測模型在表達「參與型」情緒時頻率高於「脫離型」情緒,且在代表性較高的歐美文化人格中表現出更明顯的失配。
- 2
LLM 的回應高度集中且具決定性,無法捕捉人類在表達社交情緒時所展現出的豐富多樣性與文化差異。
- 3
模型表現受提示詞語言與回應引導格式影響,但其失配模式在不同採樣溫度(sampling temperatures)下仍具備穩健性。
對教育工作者的啟發
對於教育科技設計者而言,若要開發具備社會情緒學習(SEL)功能的 AI 教學助手,不能僅依賴通用模型。建議在設計跨文化教學情境時,應特別注意 AI 可能產生的文化偏見,並透過更精細的提示工程(Prompt Engineering)或微調技術,引入更多元、具備文化敏感度的情緒反應樣本,以避免在多元文化教室中提供不恰當的社交引導或情感支持。
原始文獻資訊
- 英文標題:
- Expressing Social Emotions: Misalignment Between LLMs and Human Cultural Emotion Norms
- 作者:
- Sree Bhattacharyya, Manas Mehta, Leona Chen, Cristina Salvador, Agata Lapedriza, Shiran Dudy, James Z. Wang
- 來源:
- arXiv - Computers and Society
- AI 摘要模型:
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要,零時間壓力掌握學術前沿。