個性化說服力：情境化與溫暖感對對話式 AI 信任與依賴度的影響
arXiv - Human-Computer InteractionMert Yazan, Suzan Verberne, Frederik Bungaran Ishak Situmeang
研究發現情境化雖會降低 AI 的說服力，但結合對話溫暖感能恢復其說服力，且 AI 素養高者雖信任度低卻更易受 AI 影響。
AI 幫你先抓重點
AI 重點 1
AI 素養高並不等同於對 AI 建議的批判性思考能力較強。
滑鼠懸停看 AI 判斷理由
這挑戰了「提升 AI 素養就能提升判斷力」的直覺。研究顯示高素養者雖然心理上不信任 AI，但在實際決策中卻更傾向於遵循 AI，這提醒設計者在開發教育工具時，不能僅靠提升素養來防止用戶盲目依賴。
AI 重點 2
介面層級的對話設計對改變用戶行為的效果有限。
滑鼠懸停看 AI 判斷理由
雖然情境化與溫暖感能影響說服力，但用戶對 AI 的依賴度在各組別間並無顯著差異。這意味著單純透過優化對話風格（如變得更親切）可能無法從根本上改變用戶過度依賴 AI 的行為模式。
核心研究發現
- 1
情境化（Contextualization）雖然能讓 AI 根據用戶背景調整回應，卻會降低 AI 在反駁專家建議時的說服力。
- 2
當情境化與對話溫暖感（Conversational Warmth）結合時，會產生交互作用，進而恢復 AI 的說服力。
- 3
用戶對 AI 的依賴度在不同實驗條件下保持不變，且信任度雖能預測說服力與依賴度，但情境化與溫暖感並非透過信任來發揮作用。
- 4
AI 素養（AI Literacy）會使信任與行為脫鉤：高素養用戶雖然報告較低的信任感，但在行為上卻更容易被 AI 說服並依賴其建議。
對教育工作者的啟發
對於開發教育 AI 的設計者而言，應警惕「高素養用戶盲目依賴」的風險。在設計教學對話系統時，不應僅追求「親切感」或「情境化」來增加說服力，因為這可能導致學生在面對錯誤的 AI 建議時，即便有認知上的懷疑，仍會在行為上選擇順從。建議在設計中加入「批判性檢核機制」，例如當 AI 提供建議時，主動引導學生進行反思或與專家觀點進行對比，而非僅透過優化對話風格來提升用戶的接受度，以確保學習者能維持自主學習與批判思考的能力。
原始文獻資訊
- 英文標題：
- Personalized to Persuade: The Effects of Contextualization and Warmth on Trust and Reliance in Conversational AI
- 作者：
- Mert Yazan, Suzan Verberne, Frederik Bungaran Ishak Situmeang
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。