驗證的決策：溫度感與用戶特徵如何影響對對話式 AI 搜尋資訊的信任度
arXiv - Human-Computer InteractionMert Yazan, Frederik Bungaran Ishak Situmeang, Suzan Verberne
研究發現即便具備檢證工具，用戶對 AI 的過度依賴仍持續存在，且驗證行為主要受用戶既有認知驅動。
AI 幫你先抓重點
AI 重點 1
檢證工具的「可得性」並不等同於「使用率」
滑鼠懸停看 AI 判斷理由
這挑戰了技術決定論的觀點。過去我們認為提供查證工具就能解決錯誤資訊問題，但研究顯示用戶的心理特徵與既有信任感才是決定是否查證的核心，這提醒設計者需關注用戶的心理模型。
AI 重點 2
對話設計中的「情感溫度」具有認知風險
滑鼠懸停看 AI 判斷理由
設計者通常追求更擬人、更溫暖的互動，但研究顯示這種親和力可能成為認知偏誤的誘因，導致用戶在面對錯誤資訊時更難保持批判性思考，這在教育工具設計中尤為關鍵。
核心研究發現
- 1
即便用戶能同時使用對話式 AI 與網路搜尋進行混合檢證，對 AI 的過度依賴現象依然存在，無法被有效遏止。
- 2
用戶是否進行事實查核主要取決於其既有的用戶感知（如對聊天機器人的信任度），而非 AI 回答本身的屬性。
- 3
對話風格的「溫度感」會間接影響依賴度，溫暖的對話風格會增加用戶在 AI 回答錯誤時的認同程度。
- 4
諮詢其他 AI 來源能有效提升資訊準確度，但傳統的網路搜尋在提升準確度方面的預測力較低。
對教育工作者的啟發
教育工作者與課程設計者在引入 AI 工具時，不應僅依賴提供「查證工具」來培養學生的批判性思考，而應著重於「元認知（Metacognition）」訓練。具體建議包括：1. 教導學生識別 AI 的對話風格如何影響其判斷，建立對「擬人化」陷阱的警覺；2. 鼓勵學生使用「多 AI 交叉驗證」而非僅依賴傳統搜尋，以提升資訊準確度；3. 在設計 AI 輔助學習系統時，應平衡互動的親和力與批判性引導，避免過度溫暖的設計削弱學生的懷疑精神。
原始文獻資訊
- 英文標題：
- The Decision to Verify: How Warmth and User Characteristics Shape Reliance on Conversational Agents for Information Search
- 作者：
- Mert Yazan, Frederik Bungaran Ishak Situmeang, Suzan Verberne
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。