LLM 能否從聊天歷史推斷使用者人格特質？
arXiv - Computers and SocietyDerya C\"ogendez, Verena Zimmermann, No\'e Zufferey
研究顯示，LLM 可透過聊天紀錄準確推斷使用者人格特質，揭示對話代理交互帶來的隱私風險。
AI 幫你先抓重點
AI 重點 1
LLM 能夠從日常對話中提取人格特質，顯示對話代理的隱私風險遠超預期。
滑鼠懸停看 AI 判斷理由
此發現提醒教育科技設計者在開發聊天機器人時必須考慮人格資料的保護，否則可能被惡意利用於個性化訊息或操控行為。
AI 重點 2
不同對話主題對人格推斷準確度影響顯著，提示在設計對話介面時應優先限制高風險內容。
滑鼠懸停看 AI 判斷理由
了解主題對推斷影響可協助設計者制定針對性隱私保護策略，降低對敏感人格資訊的暴露。
核心研究發現
- 1
從668名參與者共62,090則聊天紀錄中，模型在多項人格特質的三分類任務上，準確率均高於隨機基準。
- 2
以外向性為例，模型在關係與個人反思類對話中，準確率較基線提升44%。
- 3
不同對話類型（如資訊查詢、情感支持）對人格推斷的風險程度差異顯著，提供細粒度風險評估。
對教育工作者的啟發
對教育科技開發者而言，本文提醒在設計聊天機器人時必須加入人格資料保護機制，如匿名化、資料最小化或使用者同意。教育機構可依不同對話類型（資訊查詢、情感支持、個人反思）評估風險，對高風險主題加強監控或限制。研究提供可量化風險指標，協助教師或課程設計者在使用對話代理輔助學習時，選擇合適對話範圍與內容，避免無意間暴露學生人格資訊。
原始文獻資訊
- 英文標題：
- Can LLMs Infer Conversational Agent Users' Personality Traits from Chat History?
- 作者：
- Derya C\"ogendez, Verena Zimmermann, No\'e Zufferey
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。