從角色轉向個人：雙生代理人的信任校準挑戰
arXiv - Human-Computer InteractionHugo Andersson, Niklas Elmqvist
本文探討代表個人知識與風格的「雙生代理人」在面對信任校準時，因模糊人機邊界而產生的獨特挑戰。
AI 幫你先抓重點
AI 重點 1
信任校準問題從「工具信任」轉向「身份信任」
滑鼠懸停看 AI 判斷理由
傳統 AI 是工具，出錯時使用者知道是工具出錯；但雙生代理人模擬的是「你」，當代理人出錯時，使用者難以判斷是代理人模型的問題、知識缺失，還是對個人理解的偏差，這改變了人機互動的心理模型。
AI 重點 2
現有 AI 信任框架在「模糊邊界」情境下的失效
滑鼠懸停看 AI 判斷理由
目前的設計多著重於防止過度依賴 AI 工具，但當 AI 成為個人數位延伸時，傳統的邊界感消失，這要求研究者開發全新的框架來處理這種高度個人化的信任校準問題。
核心研究發現
- 1
雙生代理人（Twin Agents）旨在代表個人的知識、觀點與溝通風格，在本人不在場時與同事協作。
- 2
當人類同事懷疑代理人輸出時，會面臨三種失效模式：圖式差距（schema gap）、認識差距（epistemic gap）及模型人工痕跡（model artifact）。
- 3
現有的認知強制功能（cognitive forcing functions）無法有效處理雙生代理人問題，因為這些框架假設 AI 與人類決策者之間有明確邊界，但雙生代理人模糊了此界線。
對教育工作者的啟發
雖然本文聚焦於專業工作場景，但對教育科技設計者有重要啟發：當我們開發「數位學習分身」或「AI 助教」來模擬特定學生或教師的風格時，必須預見「信任混淆」的風險。設計者不應僅關注 AI 的準確度，更需建立「歸因機制」，讓使用者能清楚分辨錯誤是來自於 AI 模型的技術限制，還是使用者本身知識的缺失。在設計個人化學習代理人時，應考慮如何建立透明的解釋路徑，避免使用者將 AI 的錯誤誤認為是自身能力的錯誤，或反之。
原始文獻資訊
- 英文標題：
- From Role to Person: Trust Calibration Challenges in Twin Agents
- 作者：
- Hugo Andersson, Niklas Elmqvist
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。