AI 作為自我一部分：擴展心智需共調控
arXiv - Human-Computer InteractionAlina Gutoreva, Fendi Tsim, Trisevgeni Papakonstantinou
本文主張 AI 與人類的共調控設計是實現安全與對齊的關鍵，並指出未受結構化委派的風險與 AI 在無意識層面的影響。
AI 幫你先抓重點
AI 重點 1
共調控是安全與對齊的核心，而非外部約束。
滑鼠懸停看 AI 判斷理由
因為 AI 直接參與人類的認知流程，單純限制 AI 不能阻止其對人類思考的影響；共調控能確保雙方在互相限制下共同維持對齊。
AI 重點 2
AI 在無意識層面塑造信任與代理，傳統監督無法觸及。
滑鼠懸停看 AI 判斷理由
這揭示了 AI 影響的隱蔽性，提示設計者需建立能追蹤預注意力層面的機制，否則可能無法發現偏差或失能化。
核心研究發現
- 1
AI 越來越多參與注意力分配、推理、綜合與決策，直接塑造人類的認知過程。
- 2
未結構化的委派會帶來失能化、機械化偏差、知識權威轉移與「神諭式」知識集中化風險。
- 3
AI 在意識前的運作，透過預注意力基礎設施影響代理與信任，傳統監督難以覆蓋。
- 4
安全與對齊的核心在於人機共調控，而非單方面的外部控制。
對教育工作者的啟發
1) 在設計 AI 工具時，應以共調控為核心，確保人機互動中雙方的認知角色互補且受限；2) 建立透明的決策流程與可追蹤的信任機制，避免自動化偏差與知識中心化；3) 在課程設計中加入共調控概念，培養學生的元認知與自我調節能力；4) 政策層面需制定指引，鼓勵開發者實施共調控原則，並監督 AI 在預意識層面的影響。
原始文獻資訊
- 英文標題：
- Position: AI as Part of Self -- Extending the Mind Requires Cognitive Co-Regulation
- 作者：
- Alina Gutoreva, Fendi Tsim, Trisevgeni Papakonstantinou
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。