中斷攻擊鏈：透過網路安全視角探討人類對 AI 生成虛假訊息的感知
arXiv - Computers and SocietyAlexander Loth, Martin Kappes, Marc-Oliver Pahl
本研究利用網路安全攻擊鏈框架，揭示了人類在辨識 AI 生成虛假訊息時存在感知與準確度的落差及認知疲勞問題。
AI 幫你先抓重點
AI 重點 1
警惕「懷疑感」帶來的虛假安全感
滑鼠懸停看 AI 判斷理由
研究顯示直覺上的懷疑並不等同於判斷能力的提升。這提醒我們，單純提升使用者的警覺心是不夠的，必須透過更具體的認知策略或技術輔助來彌補感知與事實間的鴻溝。
AI 重點 2
認知資源分配的不對稱性
滑鼠懸停看 AI 判斷理由
辨識假新聞比辨識 AI 來源更耗費認知資源且易受疲勞影響。這意味著在資訊過載的環境下，人類最容易在「內容真偽」而非「來源屬性」上失守，這對設計防禦機制至關重要。
核心研究發現
- 1
研究發現「感知與準確度的落差」現象，即使用者即便產生高度懷疑感，也無法有效提升對虛假訊息的實際偵測準確率。
- 2
現代大型語言模型（LLM）產生的文本內容極具迷惑性，在實驗中頻繁出現與人類撰寫文本難以區分的結果。
- 3
研究觀察到不對稱的認知疲勞效應：在持續暴露於資訊中時，辨識假新聞的能力下降了 10.2%，但辨識 AI 來源的能力則保持穩定。
對教育工作者的啟發
教育工作者在設計數位素養或媒體識讀課程時，不應僅強調「保持懷疑」，而應著重於訓練「結構化的辨識技術」。鑑於認知疲勞會顯著降低辨識真偽的能力，課程應設計短小精悍的模組，避免長時段的資訊辨識訓練。此外，應教導學生區分「來源辨識（AI vs. Human）」與「內容驗證（True vs. Fake）」這兩種不同的認知任務，並強調在資訊過載時，應依賴工具輔助而非僅靠直覺判斷。
原始文獻資訊
- 英文標題：
- Interrupting the Chain: Human Perception of AI-Generated Disinformation Through a Kill Chain Lens
- 作者：
- Alexander Loth, Martin Kappes, Marc-Oliver Pahl
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。