誰的名字被提及?III:LLM學者推薦中的個人化提示效應

arXiv - Computers and SocietyAnnabella S\'anchez-Guzm\'an, Lukas Eberhard, Denis Helic, Lisette Esp\'in-Noboa

建立基準評估LLM學者推薦,揭示模型選擇與提示設計對推薦質量與多樣性的影響

AI 幫你先抓重點

AI 重點 1

提示設計同模型選擇一樣關鍵,決定推薦質量與多樣性。

滑鼠懸停看 AI 判斷理由
因為提示不僅影響推薦的準確度,還會改變公平性與多樣性,若忽略提示設計,系統可能產生偏頗或不完整的學者名單,影響研究者的資訊獲取與學術網絡建構。
AI 重點 2

語言與地理提示會改變推薦的事實性與多樣性,揭示文化偏差。

滑鼠懸停看 AI 判斷理由
語言與地理提示的差異揭示了文化與語境偏差對推薦結果的影響,若不調整,系統可能加劇學術不平等,限制多元學術聲音的曝光。

核心研究發現

  1. 1

    基本技術質量(如準確度)主要由所選 LLM 模型決定。

  2. 2

    事實性與公平性(parity)受輸入上下文(領域、職位、k 值)影響。

  3. 3

    多樣性主要由提示中所指定的地理位置決定;南非提示產生的列表事實性較低,而日本提示則產生高度事實性但同質化的推薦。

對教育工作者的啟發

教育資訊平台在設計學者推薦功能時,應先選擇高質量LLM,再針對不同語言、地區與使用者角色設計多樣化提示,並以多學科基準資料庫進行結果驗證,確保推薦既準確又公平,避免文化偏差與同質化。

原始文獻資訊

英文標題:
Whose Name Comes Up? III: Persona Prompting Effects in LLM-Based Scholar Recommendation
作者:
Annabella S\'anchez-Guzm\'an, Lukas Eberhard, Denis Helic, Lisette Esp\'in-Noboa
來源:
arXiv - Computers and Society
AI 摘要模型:
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要,零時間壓力掌握學術前沿。