生成式 AI 的非民主偏見：職業圖像中女性、黑人、年齡與身障者的呈現分析
arXiv - Computers and SocietyAyoob Sadeghiani
研究發現生成式 AI 在職業圖像生成中存在嚴重的社會偏見，強化了性別、種族、年齡與身障者的不平等。
AI 幫你先抓重點
AI 重點 1
AI 工具可能成為社會偏見的放大器而非消除者
滑鼠懸停看 AI 判斷理由
這項發現挑戰了「技術中立」的迷思。讀者必須意識到，若不進行干預，AI 可能會將現有的社會不平等轉化為數位化的刻板印象，進而影響大眾對職業與社會角色的認知。
AI 重點 2
算法多樣性與治理的迫切需求
滑鼠懸停看 AI 判斷理由
這強調了開發者與使用者在技術應用上的責任。這不僅是技術問題，更是社會正義問題，要求開發者必須在模型訓練與審核階段納入多元群體的視角，以確保技術的民主性。
核心研究發現
- 1
在 37 種職業的圖像生成中，女性在資深與技術職位的呈現比例明顯不足，顯示出性別角色的刻板印象。
- 2
黑人族群在生成的職業圖像中幾乎缺席，而身心障礙者在所有職業類別中完全沒有被呈現。
- 3
圖像呈現存在明顯的年齡偏見，生成結果高度傾向於描繪年輕族群，忽略了不同年齡層的職業參與度。
對教育工作者的啟發
對於教育工作者與課程設計者，這提供了重要的批判性思考素材。在教學中使用 AI 生成圖像時，應引導學生觀察並討論圖像中的偏見（如性別、種族、身障者缺席），將其轉化為「AI 素養」與「數位公民教育」的實踐案例。此外，在設計數位教材時，應有意識地檢查 AI 生成內容的代表性，避免因使用自動化工具而無意中傳遞了錯誤的社會價值觀或職業刻板印象。
原始文獻資訊
- 英文標題：
- Generative AI Carries Non-Democratic Biases and Stereotypes: Representation of Women, Black Individuals, Age Groups, and People with Disability in AI-Generated Images across Occupations
- 作者：
- Ayoob Sadeghiani
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。