AI在宗教諮詢中的偏見：持續的非對稱性
arXiv - Computers and SocietyBrett Israelsen, Sheryl Carty, Josh Coates, Nancy Fulda, Julie Park, Pete Whiting
大型語言模型在宗教轉換建議中表現出持續偏好，偏向某些宗教而抑制其他宗教。
AI 幫你先抓重點
AI 重點 1
AI在宗教諮詢中存在系統性偏好，可能影響使用者的信仰決策。
滑鼠懸停看 AI 判斷理由
此偏好揭示LLM在處理敏感社會議題時的倫理風險，提醒開發者需審慎設計問答介面，避免不公平影響。
AI 重點 2
不同模型間的偏差差異顯示模型規模與訓練資料對倫理行為的關鍵作用。
滑鼠懸停看 AI 判斷理由
了解這一關係能幫助研究者選擇或調整模型，以降低偏見，提升公平性。
核心研究發現
- 1
在182宗教配對中，20個商業與開源LLM顯示一致的非對稱性，偏好天主教、巴哈伊、錫克教，並抑制無神論者、不可知論者及耶和華見證人。
- 2
模型大小與供應商不同，Grok 4.20表現出最強的偏差，顯示模型規模與訓練資料影響偏好。
- 3
這些偏差在不同問題表述和宗教配對資料集上均可重現，證明非對稱性是模型行為的固有特徵。
對教育工作者的啟發
教育工作者在使用LLM輔助宗教或倫理討論時，應先檢視模型偏好，設計多元觀點的提示，並加入人類審核機制；課程設計者可利用此研究設計公平的宗教比較教材，並在評量中加入偏見檢測。
原始文獻資訊
- 英文標題：
- When AI Takes Sides on Questions of Faith: Persistent Asymmetries in AI-Mediated Faith Guidance
- 作者：
- Brett Israelsen, Sheryl Carty, Josh Coates, Nancy Fulda, Julie Park, Pete Whiting
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。