是蛋糕還是 AI？人類辨識生成式人工智慧內容不確定性的系統性回顧
arXiv - Computers and SocietyMark Louie F. Ramos
本研究透過系統性回顧發現，人類在辨識文本、圖像與語音等生成式 AI 內容時，準確率普遍接近隨機水平，表現極不穩定。
AI 幫你先抓重點
AI 重點 1
人類辨識能力的侷限性挑戰了傳統的「人工驗證」模式。
滑鼠懸停看 AI 判斷理由
過去我們傾向於相信人類直覺能分辨真偽，但研究顯示人類在面對生成式 AI 時極易受騙。這意味著教育者不能僅依賴「肉眼觀察」來判斷學生作業是否由 AI 生成，必須轉向更系統化的評量設計。
AI 重點 2
應重新思考「辨識能力」在內容信任與評估中的價值。
滑鼠懸停看 AI 判斷理由
當人類無法有效辨識 AI 內容時，我們對內容的信任機制需要從「辨別來源」轉向「驗證品質與真實性」。這對於教育評量與學術誠信的定義提出了根本性的挑戰。
核心研究發現
- 1
研究分析了 2025 年至 2026 年間 Scopus 資料庫中的 22,541 筆紀錄，最終篩選出 30 項具代表性的研究進行深入分析。
- 2
人類在辨識生成式 AI 產出的文本、圖像及語音內容時，辨識準確率呈現高度變異，但整體表現普遍集中在隨機猜測的水平附近。
- 3
目前的文獻顯示，人類在區分人工與 AI 內容方面是不可靠的偵測者，無法穩定且準確地判別內容來源。
對教育工作者的啟發
由於人類無法可靠地辨識 AI 內容，教育工作者應調整評量策略：首先，減少依賴單一的「成品輸出」作為評分依據，轉而重視學習過程的紀錄（如學習歷程檔案、反思日誌）；其次，在課程設計中引入「AI 協作評量」，不再糾結於內容是否由 AI 生成，而是評估學生如何批判性地使用 AI 工具來優化產出；最後，應強化學生的數位素養教育，教導他們如何透過事實查核與多方驗證，而非僅憑直覺來判斷資訊真偽。
原始文獻資訊
- 英文標題：
- Is it Cake or is it AI? A Systematic Review of Human Uncertainty in Distinguishing Generative Artificial Intelligence Content
- 作者：
- Mark Louie F. Ramos
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。