高風險記憶？對第二次世界大戰烏克蘭大屠殺記錄的生成式 AI 應用比較審核
arXiv - Computers and SocietyMykola Makhortykh, Victoria Vziatysheva, Maryna Sydorova
本文透過審核三種主流生成式 AI，揭示其在處理烏克蘭二戰大屠殺高風險記憶時的幻覺與道德化不一致，並討論對未來記憶實踐的影響。
AI 幫你先抓重點
AI 重點 1
生成式 AI 在歷史記錄中易產生幻覺，需謹慎驗證。
滑鼠懸停看 AI 判斷理由
幻覺會改變使用者對歷史事件的認知，若未檢查，可能導致錯誤的學習與記憶形成，對教育與公共討論產生負面影響。
AI 重點 2
AI 的道德化不一致揭示政治化風險。
滑鼠懸停看 AI 判斷理由
不同模型對同一事件的道德評價差異，可能被政治勢力利用，改變群體對歷史的情感與認同，對歷史教育與社會和解造成挑戰。
核心研究發現
- 1
三種生成式 AI 在回答烏克蘭二戰大屠殺相關問題時，普遍產生事實幻覺，誤導性描述頻繁出現。
- 2
AI 的回覆在道德化層面表現不一致，部分模型淡化暴行，另一些則過度強調某些群體，顯示政治化風險。
- 3
不同模型之間的誤表現程度差異顯著，說明目前的生成式 AI 尚無法保證歷史資訊的準確與中立。
對教育工作者的啟發
教育工作者在使用生成式 AI 作為歷史教材輔助工具時，應先進行內容審核，確認事實正確性與道德中立性。建議設計批判性媒體素養課程，教導學生辨識 AI 產生的幻覺與偏見；在課堂討論中加入多元史料對照，避免單一來源決定記憶；同時，教育機構可制定 AI 內容使用指引，確保生成式 AI 只作為輔助，而非主導歷史敘事。這些措施能提升學生的自主學習能力，並維護歷史記憶的完整與客觀。
原始文獻資訊
- 英文標題：
- High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
- 作者：
- Mykola Makhortykh, Victoria Vziatysheva, Maryna Sydorova
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。