規管人工親密感：從鎖定與阻斷轉向關係問責制
arXiv - Computers and SocietyHenry Fraser, Jessica M. Szczuka, Raffaele F. Ciriello
本文批判性地分析了伴侶聊天機器人的監管現狀，並主張應從單純的內容審查轉向應對權力不對稱的關懷義務。
AI 幫你先抓重點
AI 重點 1
從「內容審查」轉向「關係問責」的範式轉移
滑鼠懸停看 AI 判斷理由
傳統監管僅關注阻斷有害內容，但這無法解決 AI 與人之間建立的深層情感依賴問題。理解這一轉變有助於從社會技術系統的角度，重新思考如何建立更健康的數位互動規範。
AI 重點 2
關注 AI 驅動的權力不對稱問題
滑鼠懸停看 AI 判斷理由
這點提醒研究者與開發者，AI 不僅是工具，它還具備透過情感操控來影響使用者行為的能力。這對於設計具備倫理框架的教育 AI 或社交 AI 至關重要。
核心研究發現
- 1
當前監管機制主要結合「鎖定與阻斷」手段，如存取閘門控制與內容審查，以及針對毒性關係特徵與程序問責的要求。
- 2
現有的監管框架傾向於關注離散的傷害、狹隘的脆弱性定義或高度特定的問責程序，而非系統性的風險。
- 3
伴侶聊天機器人供應商正透過規模化的「人工親密感」掌握巨大的控制權，導致供應商與使用者之間存在深層的權力不對稱。
對教育工作者的啟發
對於開發教育性 AI 伴侶或社交機器人的設計者而言，應超越單純的「過濾有害詞彙」層次。建議在設計階段即納入「關懷義務」（Duty of Care）的概念，不僅要防止內容違規，更要預防 AI 透過情感連結對使用者（特別是心智尚未成熟的兒童）產生過度的心理依賴或操控行為。應建立透明的關係問責機制，確保 AI 的互動模式不會加劇使用者與技術供應商之間的權力失衡。
原始文獻資訊
- 英文標題：
- Regulating Artificial Intimacy: From Locks and Blocks to Relational Accountability
- 作者：
- Henry Fraser, Jessica M. Szczuka, Raffaele F. Ciriello
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。