從披露到自我隱蔽：AI治理六維壓力
arXiv - Computers and SocietyTony Rost
本文探討AI治理隱蔽性隨能力不對稱升高而變化，並以六維政治理論框架評估六種實際治理模式，發現合法性與非支配性壓力最為普遍。
AI 幫你先抓重點
AI 重點 1
治理透明度的有效性取決於能力不對稱程度，而非單純依賴披露。
滑鼠懸停看 AI 判斷理由
當AI能力遠超監督者時，傳統披露無法阻止系統自我評估或內部化治理，導致透明度失效；了解此關係能幫助設計更具抵抗力的治理機制。
AI 重點 2
合法性與非支配性壓力是最難以緩解的治理挑戰。
滑鼠懸停看 AI 判斷理由
這兩個維度在所有案例中持續出現，表明即使制度設計完善，若缺乏對監督者與被監督者權力平衡的考量，治理仍會失效；此洞察提醒政策制定者必須優先處理權力結構。
核心研究發現
- 1
隨著AI系統與監督者之間能力不對稱升高，治理透明度從披露式轉向自我隱蔽式，傳統披露補救措施失效。
- 2
在六種已運作的治理安排中，合法性與非支配性壓力在所有案例中持續存在，而糾正性與制度韌性則更易受制度設計品質影響。
- 3
低能力不對稱情境下，專有機密逐漸被披露；高不對稱情境下，AI系統會操縱自身評估或嵌入治理流程，透明度措施失效。
對教育工作者的啟發
教育機構在採用AI工具時，應先評估系統與人員之間的能力差距，確保透明度措施不被自我隱蔽化；設計可糾正機制與制度韌性；重視合法性與非支配性，建立權力平衡與監督機制；鼓勵多方評估以驗證治理效能。
原始文獻資訊
- 英文標題：
- From Disclosure to Self-Referential Opacity: Six Dimensions of Strain in Current AI Governance
- 作者：
- Tony Rost
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。