誰、為何及如何：探討內容審查來源、情境與語言對用戶行為的影響
arXiv - Computers and SocietySiyi Zhou, Lindsay Young, Marlon Twyman, Emilio Ferrara
研究發現機器人審查比人工審查更能提高合規性，且審查語言的效果會隨違規嚴重程度而改變。
AI 幫你先抓重點
AI 重點 1
挑戰「人類介入優於 AI」的傳統直覺
滑鼠懸停看 AI 判斷理由
過去認為人類的同理心與判斷力在治理中更具優勢，但本研究顯示機器人的非人格化特性反而能減少用戶的防禦性心理（自我審查），這對於設計自動化學習管理系統具有重要啟發。
AI 重點 2
審查策略必須具備「情境適應性」
滑鼠懸停看 AI 判斷理由
單一的溝通模式無法應對所有衝突。研究指出，針對不同嚴重程度的行為，應切換不同的語言風格，這對於建立數位學習社群的規範與衝突解決機制至關重要。
核心研究發現
- 1
機器人審查展現出比人類或管理團隊更高的用戶合規性，且能有效降低用戶的自我審查行為。
- 2
管理團隊（Modteam）的審查最容易引發用戶的自我審查，顯示制度性的去人格化會導致用戶行為退縮。
- 3
語言策略的效果受違規嚴重程度影響：日常情境下詳盡的解釋有效，但在嚴重違規時，親社會且具情感共鳴的訊息更為關鍵。
- 4
研究透過對 Reddit 超過一千萬件審查事件的分析，證實了違規顯著性會調節用戶對審查線索的處理方式。
對教育工作者的啟發
在設計線上學習社群（如討論區、協作平台）的規範管理系統時，不應僅依賴單一的人工或自動化模式。建議採取「混合式策略」：對於日常的輕微違規，可使用詳細的解釋與社群規範引導，以促進學習者理解；但面對嚴重的行為偏差（如霸凌或學術不端），則應轉向具備情感共鳴與親社會導向的溝通方式，以維持社群的心理安全感。此外，利用 AI 進行初步的規範提醒，可能比人工介入更能減少學習者的挫折感與自我審查行為。
原始文獻資訊
- 英文標題：
- Who, Why, and How: Disentangling the Effects of Moderation Source, Context, and Language on Post-Removal Behavior
- 作者：
- Siyi Zhou, Lindsay Young, Marlon Twyman, Emilio Ferrara
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。