AI 在平台治理前線：LLM 協助歐盟數位服務法下非法內容舉報
arXiv - Human-Computer InteractionMarie-Therese Sekwenz, Shreyan Biswas, Rita Hermann-Gsenger, Ujwal Gadiraju
研究大型語言模型在歐盟數位服務法下非法內容舉報流程中的效能與錯誤影響，發現評估型 AI 可提升準確度但不改善說明品質
AI 幫你先抓重點
AI 重點 1
EvalAI 在錯誤情境下能顯著提升準確度，提示設計者需考慮錯誤容忍度與評估機制。
滑鼠懸停看 AI 判斷理由
此洞察顯示在 AI 可能產生錯誤的環境中，提供平衡的正反論點能有效減少誤分類，對於需要高合規性的報告介面設計具有實務價值。
AI 重點 2
即使 AI 正確，XAI 也能加速決策，但並未改善說明品質，說明 AI 只能協助決策速度，不能取代使用者的法律推理。
滑鼠懸停看 AI 判斷理由
這提醒開發者在設計報告工具時，應將 AI 作為速度輔助而非內容深度替代，並強調人類推理與 AI 輔助的互補關係。
核心研究發現
- 1
評估型 AI (EvalAI) 在 AI 錯誤情境下提升了法律條款層級的準確度，並減少了錯誤距離，尤其對近似錯誤與過度寬泛錯誤有效。
- 2
當 AI 輸出正確時，傳統可解釋 AI (XAI) 使使用者決策更快。
- 3
兩種 AI 協助形式均未能顯著提升使用者提供的具體說明品質，與未受協助報告相比差異不大。
對教育工作者的啟發
1. 在可能產生錯誤的情境下，採用 EvalAI 以提供平衡的正反論點，可顯著提升報告準確度，減少誤分類距離。2. 若 AI 輸出正確，使用 XAI 可加速決策，建議在高頻率、低複雜度的舉報場景中使用。3. 兩種 AI 協助均未提升說明品質，說明 AI 只能作為決策速度輔助，仍需使用者自行撰寫具體法律說明；因此介面設計應鼓勵使用者進行深度推理，例如提供法律條文參考、提示關鍵詞。4. 介面設計者應評估 AI 錯誤率，並在錯誤高的環境中提供額外的人工審核或多重確認機制。5. 教育工作者可將此研究作為案例，說明 AI 在合規決策中的角色與限制，培養學生的批判性思維與法律推理能力。
原始文獻資訊
- 英文標題：
- AI at the Front Lines of Platform Governance: Using LLMs to Support Illegal Content Reporting under the Digital Services Act
- 作者：
- Marie-Therese Sekwenz, Shreyan Biswas, Rita Hermann-Gsenger, Ujwal Gadiraju
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。