教育科技研究速報

研究發現 LLM 的政治偏見源於訓練數據的組成，且數據呈現系統性的左傾傾向。

研究發現大型語言模型在面對間接特徵線索時，其隱性偏見程度遠高於顯性身份標示下的偏見。

本研究利用嵌入式基準測試框架，揭示了教育大模型在提供回饋時存在的性別偏見，即使在最先進的模型中也存在非對稱的語義回應。

本研究揭示了自動化毒性模型在評估非標準英語（如非裔美國英語）時存在的系統性偏誤，並提供互動式工具提升AI素養。

本研究量化了大型語言模型在招聘決策中延續社會性別偏見的程度，並探討了提示工程作為減輕偏見的技術。

本研究揭示了大型語言模型（LLM）在親密關係配對中，會基於傳統種姓制度產生偏見，強化社會階層的差異。

本研究揭示了美國民眾在不同地理尺度上對少數族群規模的系統性過度估計，並探討了社交接觸與媒體接觸在其中所扮演的角色。

本研究審查了四種大型語言模型在 41 種職業中生成的人格化資料，發現模型在種族和性別呈現上存在偏差，並加劇了職業隔離。

本研究揭示了大型語言模型在性別推論時，即使在語境等價的情況下，其輸出結果也會出現系統性變化，違反了語境不變性的假設。

本研究揭示電腦科學領域的性別引用失衡，尤其在會議論文中更為顯著，並探討了同質性引用及作者網絡結構等影響因素。

本研究提出 PopResume 資料集，用於因果公平性審計，評估基於 LLM/VLM 的履歷篩選系統，並揭示傳統指標無法捕捉的歧視模式。

本研究提出 GuardEval 基準數據集及 GemmaGuard 模型，旨在提升大型語言模型在辨識隱含偏見、仇恨言論及安全問題方面的能力。