超越種姓分類：檢視文字轉圖像 AI 模型中的種姓偏見與道德問題
arXiv - Computers and SocietyDivyanshu Kumar Singh, Dipto Das, Deepika Rama Subramanian, Koustuv Saha, Stephen Voida, Bryan Semaan
本研究透過關係性視角挑戰傳統種姓分類，揭示文字轉圖像模型如何透過演算法強化複雜的種姓歧視與規範。
AI 幫你先抓重點
AI 重點 1
從「身份分類」轉向「關係本體論」的視角轉換。
滑鼠懸停看 AI 判斷理由
這改變了我們評估 AI 公平性的方式。過去我們只關注模型是否正確標籤化特定族群，但現在必須理解 AI 如何透過生成內容來建構不平等的社會權力關係與規範。
AI 重點 2
提出「反種姓方法」（Anti-caste approach）來應對 AI 偏見。
滑鼠懸停看 AI 判斷理由
這為開發者提供了新的框架，提醒在設計 AI 倫理準則時，不能僅依賴簡單的分類修正，而需主動介入並拆解深層的社會結構性偏見。
核心研究發現
- 1
研究發現文字轉圖像（T2I）模型不僅僅是複製偏見，更是在生成過程中放大並延續了南亞社會中隱蔽的種姓歧視敘事。
- 2
研究指出過往研究多將種姓視為單純的身份分類，而本研究證明種姓偏見存在於更深層的關係結構與社會規範之中。
- 3
透過演算法審計與批判性論述分析，研究證實 AI 模型會強化「婆羅門規範性」（Brahminical Normativity），而非僅限於高低種姓的二元對立。
對教育工作者的啟發
對於教育科技開發者與課程設計者而言，此研究提醒我們在設計生成式 AI 工具時，必須具備「社會文化敏感度」。在開發教學用的 AI 圖像生成工具時，不應僅檢查模型是否符合基本的身份標籤正確性，更應審視模型生成的內容是否在潛移默化中強化了特定的社會階級規範或文化霸權。建議在 AI 倫理課程中，引入「關係性偏見」的概念，引導學生思考技術如何建構社會現實，而非僅僅是反映現實。
原始文獻資訊
- 英文標題：
- Beyond Categories of Caste: Examining Caste Bias and Morality in Text-to-Image AI Models
- 作者：
- Divyanshu Kumar Singh, Dipto Das, Deepika Rama Subramanian, Koustuv Saha, Stephen Voida, Bryan Semaan
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。