自然語言治理：探討以提示為基礎的技術治理
arXiv - Computers and SocietyAnna Neumann, Holli Sargeant, Jatinder Singh
本文系統性評估提示（prompt）在學術與政策層面的角色，揭示研究與治理觀點的分歧，並提出對提示治理的慎重考量與實務建議。
AI 幫你先抓重點
AI 重點 1
提示並非可靠的行為控制工具
滑鼠懸停看 AI 判斷理由
提示的效果高度依賴語境與模型內部機制，若被視為穩定控制，可能導致治理失效或意外後果，改變對AI治理的設計與監管思維。
AI 重點 2
政策框架需納入提示不確定性考量
滑鼠懸停看 AI 判斷理由
若政策僅假設提示可直接調節模型，將忽略其可變性，進而影響法規執行與合規評估，促使政策制定者重新審視治理手段與評估指標。
核心研究發現
- 1
文獻呈現對系統層級提示可達成目標的多元且相互矛盾的主張，作者將其歸納為一套分類體系。
- 2
政策文件（美國行政命令與歐盟AI行為準則）將系統提示視為穩定、可解釋的控制機制，但研究顯示其行為可預測性不足。
- 3
研究與政策之間的誤差凸顯提示治理的可行性需重新審視，並呼籲跨領域合作以提升治理效能。
對教育工作者的啟發
對教育工作者而言，提示治理的不可預測性意味著在設計AI輔助教學工具時，不能僅依賴提示調節學習行為。建議先進行提示效能測試，確定其在不同學習情境下的穩定性；同時，結合多層治理策略（如技術審查、倫理審核與使用者教育），以降低提示失效帶來的風險。對課程設計者，提示應視為輔助工具而非核心控制，並在課程評估中加入提示效果的量化指標，以確保教學目標的實現。
原始文獻資訊
- 英文標題：
- Prompt Governance? On Governing Technologies Governed by Natural Language
- 作者：
- Anna Neumann, Holli Sargeant, Jatinder Singh
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。