論文中的隱藏指令：利用 AI 輔助同儕審查的漏洞
arXiv - Computers and SocietyZhicheng Lin
研究揭露作者利用隱藏指令操縱 AI 審查系統，這是一種新型態的學術研究不端行為。
AI 幫你先抓重點
AI 重點 1
學術評估系統正遭受「間接提示注入」攻擊
滑鼠懸停看 AI 判斷理由
這改變了我們對學術誠信的認知。過去的造假多集中於數據，現在攻擊者轉向利用 AI 模型的技術漏洞，這意味著傳統的審查機制在 AI 介入後變得更加脆弱。
AI 重點 2
「蜜罐防禦」觀點在學術情境下難以成立
滑鼠懸停看 AI 判斷理由
雖然有人辯稱隱藏指令是用來測試審查者是否違規使用 AI，但研究顯示這些指令多為自利性質，這提醒研究者在整合 AI 工具時，必須建立更嚴謹的技術篩查機制。
核心研究發現
- 1
2025 年 7 月發現 18 篇 arXiv 論文包含隱藏指令，透過白色文字或微小字體，誘導 AI 審查者給予正面評價。
- 2
研究識別出四種隱藏指令類型，從簡單的正面評價指令到複雜的詳細評估框架，旨在操縱 LLM 的判斷。
- 3
學術出版商對 AI 使用政策不一，Elsevier 完全禁止，而 Springer Nature 則允許在披露前提下有限度使用。
- 4
此類攻擊手段不僅影響審查，更可能擴散至抄襲檢測、引用索引及文獻摘要等學術評估系統。
對教育工作者的啟發
對於教育工作者與學術管理者而言，這項發現強調了在學術評估中整合 AI 時的風險。建議：1. 建立統一的 AI 使用規範，明確界定何謂「輔助」與「操縱」；2. 開發技術手段，如在審查前先進行文本清洗，移除不可見字元或異常格式；3. 強化審查者的 AI 素養培訓，使其能辨識 AI 生成內容的異常特徵，並在評估流程中保留人工複核的關鍵環節，以防止技術漏洞損害學術公正性。
原始文獻資訊
- 英文標題：
- Hidden Prompts in Manuscripts Exploit AI-Assisted Peer Review
- 作者：
- Zhicheng Lin
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。