文生圖模型對不同國籍人物進行日常活動的表徵研究
arXiv - Computers and SocietyAbdulkareem Alsudais
研究發現 DALL-E 3 與 Gemini 在生成不同國籍人物圖像時，存在過度使用傳統服飾的刻板印象偏見。
AI 幫你先抓重點
AI 重點 1
AI 生成內容中的「自動提示詞優化」可能隱藏偏見
滑鼠懸停看 AI 判斷理由
模型在處理使用者指令時會進行內部改寫，這種黑箱操作會自動加入如「傳統」等詞彙，導致使用者在不知情的情況下產出帶有刻板印象的內容，這對追求公平性的教學設計是重大警訊。
AI 重點 2
文化表徵的偏見與經濟發展程度存在統計相關性
滑鼠懸停看 AI 判斷理由
這顯示 AI 模型可能內化了全球經濟不平等的社會偏見，將低收入地區與「傳統/非現代」生活方式掛鉤，這提醒開發者與使用者需警惕 AI 在建構全球文化認知時的偏差。
核心研究發現
- 1
在 2,060 張生成的圖像中，有 28.4% 的圖像讓人物穿著傳統服飾，且部分服飾在特定活動場景下並不實用。
- 2
這種偏見與地理區域及經濟水平高度相關，中東、北非及撒哈拉以南非洲地區受到的刻板印象影響最為嚴重。
- 3
當提示詞包含國家名稱時，圖像與傳統服飾的對齊分數顯著提高，顯示模型在處理特定國籍時會自動強化文化標籤。
- 4
研究發現模型在提示詞優化過程中，會頻繁自動插入「傳統」一詞，進一步加劇了圖像的刻板印象傾向。
對教育工作者的啟發
教育工作者在引導學生使用 AI 進行創作或研究時，應強化「數位素養」與「批判性思考」的訓練。首先，應教導學生察覺 AI 生成內容中的文化刻板印象，避免將 AI 產出的圖像視為客觀事實；其次，在設計課程時，應引導學生練習如何透過精確的提示詞（Prompt Engineering）來修正模型的偏見，例如明確指定現代服飾而非僅給予國籍；最後，在開發教育用 AI 工具時，應建立更嚴謹的評估機制，確保生成內容符合多元文化的真實性，而非僅僅滿足於視覺上的文化標籤。
原始文獻資訊
- 英文標題：
- Text-to-Image Models and Their Representation of People from Different Nationalities Engaging in Activities
- 作者：
- Abdulkareem Alsudais
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。