higher educationedtechaiassessmentfairness

機器學習管線中機構風險模型的公平性審計

arXiv - Computers and SocietyKelly McConvey, Dipto Das, Maya Ghai, Angelina Zhai, Rosa Lee, Shion Guha

提供可複製的審計方法，揭示高等教育早期警示系統在性別、年齡、國籍上的公平性缺陷。

AI 幫你先抓重點

AI 重點 1

公平性審計揭示模型偏差不僅來自預測，還來自後處理階段

滑鼠懸停看 AI 判斷理由
此發現強調公平性介入必須涵蓋整個管線，而非僅聚焦模型訓練，否則偏差將被放大。
AI 重點 2

年輕、男性、國際學生被過度標記，可能導致資源錯配

滑鼠懸停看 AI 判斷理由
此洞察提醒實務者需審視資源分配機制，避免因偏差導致不公平的支援決策，進而影響學生成功率。

核心研究發現

  1. 1

    在整個管線中，年輕、男性、國際學生被過度標記為需要支持，儘管許多人最終成功。

  2. 2

    年長及女性學生的辍學風險與同等男性相近，但被低估，未被識別。

  3. 3

    後處理階段將概率壓縮為分位數風險等級，放大了上述差異。

對教育工作者的啟發

教育機構應建立完整的審計流程，檢視訓練資料、模型預測與後處理；使用分位數風險等級前先評估其公平性；考慮多元化的評估指標；針對被低估族群加強支持；推動透明度與參與式決策。

原始文獻資訊

英文標題：
Fairness Audits of Institutional Risk Models in Deployed ML Pipelines
作者：
Kelly McConvey, Dipto Das, Maya Ghai, Angelina Zhai, Rosa Lee, Shion Guha
來源：
arXiv - Computers and Society
AI 摘要模型：
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。