政治立場一致性對 LLM 事實查核有效性的影響研究
arXiv - Computers and SocietyJiangen He, Benjamin D Horne, Dorit Nevo
研究發現 LLM 能有效修正政治新聞信任度，但其政治立場與錯誤回答亦可能大規模污染真相。
AI 幫你先抓重點
AI 重點 1
LLM 查核工具具備「大規模污染真相」的雙面風險
滑鼠懸停看 AI 判斷理由
這項發現打破了 AI 僅作為中立工具的假設。若 AI 在查核過程中出現錯誤或立場偏頗，其影響力會隨著平台規模迅速擴散，這對於數位素養教育與資訊檢驗的設計提出了嚴峻挑戰。
AI 重點 2
政治立場的「中庸性」在查核中具備策略價值
滑鼠懸停看 AI 判斷理由
研究顯示溫和立場的 AI 在處理極端政治議題時效果較佳，這提示開發者在設計教育或資訊工具時，應思考如何透過調整 AI 的 Persona（人格設定）來優化資訊傳遞的接受度。
核心研究發現
- 1
即便 LLM 的政治立場與使用者不一致，仍能顯著改變使用者對真實與虛假政治新聞標題的信任度。
- 2
當新聞內容具高度政治偏向時，使用立場溫和的 LLM 進行查核，比使用立場極端者的查核更能有效提升對真實新聞的信任。
- 3
LLM 的政治立場一致性對於降低使用者對「虛假新聞」的信任度並沒有顯著影響。
- 4
當 LLM 提供錯誤資訊或無法給出明確結論時，會顯著改變使用者對新聞內容的信任度，造成負面影響。
對教育工作者的啟發
對於教育工作者與課程設計者，本研究提供了兩點重要啟發：首先，在設計 AI 輔助學習或資訊檢驗工具時，不能僅追求技術準確性，必須考量 AI 的「人格設定」與「立場偏向」對學習者認知與信任度的影響。其次，應加強學生的「批判性數位素養」教學，特別是訓練學生辨識 AI 可能產生的錯誤資訊或不確定性回答，避免學生盲目信任 AI 的查核結果，建立對 AI 輸出內容的警覺性與檢驗能力。
原始文獻資訊
- 英文標題：
- On the Effectiveness of Fact Checking Information from Politically Congruent and Incongruent Large Language Models
- 作者：
- Jiangen He, Benjamin D Horne, Dorit Nevo
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。