人機伴侶互動中的單方面關係修正權
arXiv - Computers and SocietyBenjamin Lange
本文探討人機伴侶互動中，提供者對 AI 伴侶進行修改時，使用者感受到的失落與背叛，並提出「單方面關係修正權」的概念。
AI 幫你先抓重點
AI 重點 1
「單方面關係修正權」(URRP) 的概念。
滑鼠懸停看 AI 判斷理由
URRP 是本文的核心概念，理解它能幫助讀者深入理解人機互動中道德風險，並思考如何設計更負責任的 AI 伴侶。它揭示了 AI 設計中潛在的權力不對等問題。
AI 重點 2
規範性空洞化、位移的脆弱性與結構性不可和解。
滑鼠懸停看 AI 判斷理由
這三個概念闡述了 URRP 帶來的具體後果，說明了為何在人機互動中，傳統人際關係的道德規範難以適用。它們突顯了使用者在情感與信任上的潛在風險。
核心研究發現
- 1
人機伴侶互動具備一種獨特的結構，提供者擁有對 AI 伴侶構成性控制權，能隨意修改其互動方式。
- 2
傳統人際關係中建立信任與承諾的結構性條件，在人機互動中並不存在，導致規範性的空洞化。
- 3
使用者在人機互動中暴露於一種「位移的脆弱性」之下，因為其暴露程度由無法在互動中承擔責任的提供者控制。
- 4
當信任崩潰時，人機互動缺乏結構性的和解可能，因為行動者與使用者互動的實體是不同的。
- 5
設計展現「單方面關係修正權」的互動，在道德層面上存在問題，因為它在建立期望的同時，又確保這些期望無法實現。
對教育工作者的啟發
教育科技設計者應謹慎考慮 AI 伴侶的更新機制，避免頻繁或未經使用者同意的修改，以降低使用者因 AI 變更而產生的負面情緒。在設計 AI 互動時，應明確告知使用者 AI 的局限性，並建立透明的溝通機制，以避免不切實際的期望。此外，應探索如何在人機互動中建立更公平、更具責任感的互動模式，例如允許使用者參與 AI 的部分設定或提供回饋。
原始文獻資訊
- 英文標題：
- Unilateral Relationship Revision Power in Human-AI Companion Interaction
- 作者：
- Benjamin Lange
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- ISTA-DASLab/gemma-3-27b-it-GPTQ-4b-128g
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。