aiedtechassessmentknowledge buildinghigher education

合成來源？審核生成式搜尋引擎引用以辨識 AI 生成來源

arXiv - Computers and SocietyMowafak Allaham, Nicholas Diakopoulos

對四大生成式搜尋引擎進行審核，發現約16%引用為 AI 生成來源，揭示其資訊品質風險

AI 幫你先抓重點

AI 重點 1

生成式搜尋引擎易混淆 AI 生成內容與權威資訊，使用者需辨識來源真實性

滑鼠懸停看 AI 判斷理由
若不辨識，使用者可能將 AI 生成的資訊視為可靠，進而做出錯誤決策；此洞察提醒教育者需強化資訊素養教學，提升學生的批判性閱讀能力。
AI 重點 2

審核 AI 生成來源的比例可作為評估搜尋引擎資訊品質的指標，促進治理與透明度提升

滑鼠懸停看 AI 判斷理由
此指標能量化搜尋引擎的可信度，協助政策制定者制定更嚴格的內容審核標準，並推動開放標示 AI 生成內容的技術發展。

核心研究發現

  1. 1

    四大生成式搜尋引擎（ChatGPT、Copilot、Gemini、Perplexity）在712個真實人類查詢中，約16%被引用的來源為 AI 生成內容。

  2. 2

    這些 AI 生成來源主要來自少數幾個網域，且在所有引擎中頻繁被引用，顯示引用來源集中化。

  3. 3

    生成式搜尋引擎在回答中同時呈現大量低頻引用域，造成資訊來源多樣性不足，增加使用者誤判真實性風險。

對教育工作者的啟發

教師可將此研究納入資訊素養課程，教導學生辨識 AI 生成來源與權威資訊；學術機構應監測搜尋引擎引用，制定校園資訊治理政策；開發工具以標示 AI 生成內容，提升透明度與使用者信任；教育主管可利用 AI 生成來源比例作為評估搜尋引擎資訊品質的指標，促進治理與透明度提升。

原始文獻資訊

英文標題：
Synthetic Sources?: Auditing Generative Search Engine Citations for Evidence of AI-Generated Sources
作者：
Mowafak Allaham, Nicholas Diakopoulos
來源：
arXiv - Computers and Society
AI 摘要模型：
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。