教育科技研究速報

研究發現大型語言模型在決策時對代理變數的依賴程度與其預測價值不匹配，且傳統準確度評估無法偵測此風險。

研究提出一種名為 IBIA 的攻擊手法，能透過外部內容將特定偏見植入 AI 代理人的長期記憶中。

研究探討帶有文化刻板印象的查詢是否會導致 RAG 系統洩露更多個人隱私資訊，結果顯示未發現顯著的刻板印象驅動洩露。

研究發現語言模型即便在行為表現上無偏見，其內部表徵仍隱藏著基於性別、種族等人口統計特徵的職業能力偏見。

研究揭示 LLM 的安全對齊過於依賴英語，在非英語語言中存在顯著的社會文化偏見與安全漏洞。

研究發現大型語言模型即便在聲明中性時，仍會透過結構性框架重現「東方主義」偏見。

研究發現 LLM 在模擬學術審查時，會因作者的機構聲望、性別與種族等身份標籤而產生顯著偏見。

研究發現現有的電腦視覺注意力模型在預測人類視線時表現不佳，且存在顯著的人口統計學偏差。

研究發現 AI 模型內部的潛在社會地位關聯，並不一定會轉化為實際決策中的偏見行為。

研究發現主流大型語言模型在生成故事時，對智能障礙者存在顯著的負面隱性偏見與刻板印象。

研究指出僅評估 AI 的公平性是不夠的，因為部分模型看似中立僅是因為其缺乏有效評估能力的「中立幻覺」。

研究發現 LLM 的政治立場極易受提示詞引導，其對齊表現應從單點立場轉向評估其可控性與偏移程度。