健康聊天機器人的社會規範框架權衡：平衡信任與偏好
arXiv - Human-Computer InteractionArpita Wadhwa, Aditya Vashistha, Mohit Jain
研究發現敘事框架雖受歡迎但易導致過度依賴，而權威框架雖不受歡迎卻有助於建立校準後的信任。
AI 幫你先抓重點
AI 重點 1
從「信任程度」轉向「校準信任（Calibrated Trust）」的評估指標。
滑鼠懸停看 AI 判斷理由
傳統設計追求提高使用者對 AI 的信任，但這可能導致盲目追隨錯誤資訊。本文強調真正的安全應是使用者能辨別 AI 的對錯，這對於開發高風險領域（如醫療或教育指導）的 AI 至關重要。
AI 重點 2
文化框架（如集體主義）在 AI 介面設計中的決定性作用。
滑鼠懸停看 AI 判斷理由
AI 設計不應僅是技術性的，必須考慮使用者所處的文化脈絡。在集體主義文化中，社會規範的框架方式會直接影響使用者如何解讀與接受 AI 的建議。
核心研究發現
- 1
在印度農村的混合方法研究顯示，敘事身份框架（narrative identity）最受使用者偏好，但卻容易引發使用者對 AI 的過度依賴。
- 2
權威指令框架（injunctive authority）雖然在偏好度上得分最低，但卻能有效支持「校準信任」，讓使用者在正確與錯誤建議間做出判斷。
- 3
研究分析了在低模糊度與高模糊度情境下，不同社會規範框架對使用者偏好與信任程度的影響差異。
對教育工作者的啟發
設計者在開發引導式 AI（如教學助理或健康顧問）時，不應僅追求提升使用者的「滿意度」或「偏好度」。若目標是建立健康的學習或決策關係，應考慮採用能促進批判性思考的框架（如權威或中性框架），而非僅使用易於產生情感連結的敘事框架。設計應具備動態調整能力，根據情境的模糊程度與風險等級，切換不同的溝通策略，以確保使用者在依賴 AI 的同時，仍保有辨別錯誤資訊的能力。
原始文獻資訊
- 英文標題：
- Trade-offs in Social-Norm Framings for Health Chatbots: Balancing Trust and Preference
- 作者：
- Arpita Wadhwa, Aditya Vashistha, Mohit Jain
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。