次級有限理性：AI 招聘中演算法如何複製結構性不平等的理論研究
arXiv - Computers and SocietyJia Xiao
本文提出「次級有限理性」理論，揭示 AI 招聘系統如何將社會資本差異轉化為看似公平的演算法決策，進而加劇不平等。
AI 幫你先抓重點
AI 重點 1
理解「次級有限理性」的概念，打破 AI 客觀性的迷思。
滑鼠懸停看 AI 判斷理由
這項洞察挑戰了「演算法即中立」的傳統觀念。讀者必須意識到，即便計算能力強大，AI 仍受限於數據中的社會偏見，這對於設計公平的自動化評量系統至關重要。
AI 重點 2
關注「代理指標（Proxies）」在決策中的偏誤風險。
滑鼠懸停看 AI 判斷理由
當 AI 使用看似合理的指標（如名校學歷）來預測能力時，實際上是在衡量社會資本而非真實潛力。這提醒開發者在設計教育或招聘工具時，需重新審視指標的有效性。
核心研究發現
- 1
AI 招聘系統會將文化與社會資本的差異編碼進演算法中，使歷史性的不平等（如精英學歷特權與網絡同質性）轉化為看似符合績效的結果。
- 2
研究發現 AI 透過優化「可讀性高但具偏見」的勝任力代理指標，形成了一個自我強化的循環，使社會排斥現象更加根深蒂固。
- 3
演算法並非完全客觀，而是受到技術與社會政治約束，繼承並放大了人類原有的認知偏見與結構性偏見。
對教育工作者的啟發
對於教育科技開發者與評量設計者，應採取以下行動：首先，在設計自動化評量工具時，需進行「資本意識審計（Capital-aware auditing）」，檢視指標是否過度依賴社會經濟地位的產物；其次，應導入「反事實公平性測試（Counterfactual fairness testing）」，模擬不同背景學生在相同能力下的表現，以確保評量工具的公平性；最後，應建立透明的監管機制，避免演算法將歷史性的教育不平等轉化為自動化的篩選障礙。
原始文獻資訊
- 英文標題：
- Secondary Bounded Rationality: A Theory of How Algorithms Reproduce Structural Inequality in AI Hiring
- 作者：
- Jia Xiao
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。