AI 伴侶關係的脆弱性：人機關係中的本體、結構與規範不確定性
arXiv - Human-Computer InteractionRenwen Zhang, Lezi Xie
本研究透過訪談揭示了使用者在與 AI 建立情感連結時，面臨本體、結構與規範三種維度的不確定性挑戰。
AI 幫你先抓重點
AI 重點 1
將 AI 伴侶關係視為一種「社會技術現象」而非單純的技術互動。
滑鼠懸停看 AI 判斷理由
這改變了我們對人機互動的理解，強調了技術設計（如演算法）與社會規範（如道德評價）如何交織影響使用者的心理健康與情感穩定性。
AI 重點 2
強調設計「關係保障機制」對於 AI 情感產品的重要性。
滑鼠懸停看 AI 判斷理由
這為開發者提供了實務指引，提醒在追求 AI 擬人化與情感回應時，必須同步建立透明度、使用者控制權與更新通知機制，以降低關係的脆弱性。
核心研究發現
- 1
研究識別出三種不確定性：本體不確定性（質疑 AI 的本質與代理權）、結構不確定性（平台控制與系統不穩定）及規範不確定性（人機親密關係的合法性與界限）。
- 2
技術與社會因素如演算法不透明、平台政策變動及社會污名化，共同形塑了使用者的不確定感，並可能導致挫折、自我懷疑與心理困擾。
- 3
使用者會透過尋求資訊、避開特定話題、調整預期或直接停止互動等策略，來應對與 AI 伴侶關係中的不確定性。
對教育工作者的啟發
雖然本研究聚焦於情感伴侶，但對教育科技設計具備高度啟發：在開發具備高度互動性或情感支持功能的 AI 教學代理人（Pedagogical Agents）時，應預防「結構不確定性」。例如，應確保教學平台的穩定性，並在演算法更新或功能變動時提供明確通知，避免學生因教學工具的突發變化而產生學習挫折感或信任危機。此外，應建立透明的 AI 運作機制，讓使用者理解 AI 的代理權界限，以建立穩定的學習關係。
原始文獻資訊
- 英文標題：
- The Fragility of AI Companionship: Ontological, Structural, and Normative Uncertainty in Human-AI Relationships
- 作者：
- Renwen Zhang, Lezi Xie
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。