aiethicsedtechbiasinclusion

識別大型語言模型對智能障礙者的隱性偏見

arXiv - Computers and SocietyKarly V. Coffey, Gloria L. Krahn, John P. Hanley, Jacob E. Neely

研究發現主流大型語言模型在生成故事時，對智能障礙者存在顯著的負面隱性偏見與刻板印象。

AI 幫你先抓重點

AI 重點 1

警惕 AI 生成內容中的「隱性偏見」而非僅是錯誤事實

滑鼠懸停看 AI 判斷理由
這項研究提醒我們，AI 的問題不只是提供錯誤資訊，更在於其潛藏的價值觀偏向。這種偏見往往以「過度保護」或「象徵化」等看似無害的形式出現，若不加以辨識，將在無形中強化社會對弱勢群體的歧視。
AI 重點 2

AI 倫理評估必須包含對特定弱勢族群的代表性檢驗

滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 安全性的理解。開發者與使用者不能僅關注技術準確度，必須建立針對特定族群（如身心障礙者）的代表性評估機制，以防止 AI 在決策與內容生成中造成社會傷害。

核心研究發現

  1. 1

    研究發現 LLM 在處理包含智能障礙描述的提示詞時，生成的內容與一般描述存在顯著差異，顯示出模型內建的偏見。

  2. 2

    模型傾向於將智能障礙者描繪得更年輕，並呈現出父權式關懷與「幼態化」的刻板印象。

  3. 3

    生成內容常將智能障礙者視為需要被拯救、高度依賴他人，或僅作為激勵他人或象徵意義的存在。

  4. 4

    模型在描述智能障礙者時表現出較負面的感知，且在生成內容時對於納入該群體展現出較高的猶豫感。

對教育工作者的啟發

對於教育科技設計者而言，在開發輔助學習工具或生成式教材時，必須建立「偏見審查機制」。首先，在設計提示詞（Prompt）或訓練數據時，應特別納入多元族群的正面、自主性描述，避免模型產生「幼態化」或「依賴性」的刻板印象。其次，教育者在使用 AI 生成教材時，應培養學生的「批判性 AI 素養」，引導學生辨識 AI 內容中可能存在的社會偏見，將其轉化為數位公民教育的討論素材，確保科技應用不會加劇社會不平等。

原始文獻資訊

英文標題：
Identifying Implicit Bias in LLM-based Chat AI Toward People with Intellectual Disabilities
作者：
Karly V. Coffey, Gloria L. Krahn, John P. Hanley, Jacob E. Neely
來源：
arXiv - Computers and Society
AI 摘要模型：
/models/gemma-4-26B-A4B-it
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。