不只是給 ChatGPT 規則：政策即提示詞的審核模式及其對社群治理的影響
arXiv - Computers and SocietyAnna Neumann, Jasmin Wyss, Ivy Turk, Rebekah Overdorf
本文探討將政策轉化為提示詞（Policy-as-Prompt）進行 AI 內容審核的技術特性、治理風險及其局限性。
AI 幫你先抓重點
AI 重點 1
警惕「提示詞即治理」的簡化思維
滑鼠懸停看 AI 判斷理由
這項洞察挑戰了技術決定論。讀者必須理解，僅僅透過優化提示詞（Prompt Engineering）並不能完全取代複雜的社群治理流程，若忽視了背後的治理結構，技術工具反而可能加劇治理失效。
AI 重點 2
AI 審核模式的風險與治理維度
滑鼠懸停看 AI 判斷理由
這對於開發者與政策制定者至關重要。理解 AI 在執行政策時的技術侷限性，有助於在設計自動化系統時，預先納入防範機制，而非僅將其視為一個單純的自動化工具。
核心研究發現
- 1
社群審核模式正從中心化專家轉向去中心化的志願者參與，而 AI 被視為減輕審核負擔、提升準確性的潛在工具。
- 2
「政策即提示詞」是一種將自然語言政策直接轉化為 LLM 提示詞，以輔助執行審核任務的操作模式。
- 3
單純依賴撰寫提示詞來進行內容審核存在技術與治理上的侷限，可能導致特定的風險與傷害，無法達成實質的社群治理。
對教育工作者的啟發
對於教育科技開發者或線上學習社群管理者而言，若計畫導入 AI 進行社群內容審核（如討論區管理），不應僅將重點放在優化提示詞的精準度。實務上應建立一套「人機協作」的治理框架，將 AI 定位為輔助工具而非最終決策者。此外，必須預留人工介入的機制，並針對 AI 可能產生的偏見或錯誤決策，建立透明的申訴與修正流程，以確保數位學習環境的公平性與社群信任感。
原始文獻資訊
- 英文標題：
- It is not enough to give your moderation rules to ChatGPT: Policy-as-Prompt Moderation and Its Potential Impacts on Community Governance
- 作者：
- Anna Neumann, Jasmin Wyss, Ivy Turk, Rebekah Overdorf
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。