「你是 AI 嗎？」：分析危機諮商中個案對 AI 使用的懷疑心理
arXiv - Computers and SocietyShreya Shah, Akshay Swaminathan, Meghana Simhadri, Ivan Lopez, Sharang Phadke, Divyanjali Verma, Abhay John, Luke Zhao, Fiona Cai, Sharon Zhang, Gloria Ye, Ivy Pham, William Wang, Sebastian Garcia, Sarah Wornow, Angelina Wang, Nigam H. Shah
研究發現危機諮商中個案懷疑對象為 AI 的比例正在上升，且即便諮商師澄清也難以完全消除疑慮。
AI 幫你先抓重點
AI 重點 1
信任危機的上升趨勢反映了公眾對 AI 介入敏感領域的普遍焦慮。
滑鼠懸停看 AI 判斷理由
這顯示即使技術本身尚未介入，大眾已對 AI 介入人類情感互動產生預期性的防禦心理，這提醒開發者在設計 AI 輔助工具時，必須優先處理「信任建立」而非僅是功能實現。
AI 重點 2
單純的口頭澄清（如「我保證我不是 AI」）在建立信任方面效果有限。
滑鼠懸停看 AI 判斷理由
這說明了在高度情感需求的場景中，信任是建立在互動品質而非單純的聲明上。這對於設計具備同理心特質的 AI 系統提供了重要啟發：必須透過行為模式而非文字聲明來展現真實性。
核心研究發現
- 1
在印度某 WhatsApp 危機諮商熱線的數據顯示，個案懷疑對象為 AI 的比例從 2024 年 6 月的 0.8% 上升至 2025 年 3 月的 2.6%。
- 2
在懷疑對象為 AI 的對話中，有 21.5% 的個案明確表示他們偏好與真人進行溝通。
- 3
懷疑情緒主要集中在對話的前半段（佔 68.3%），且當諮商師試圖澄清時，仍有 17.6% 的個案會持續追問或直接結束對話。
對教育工作者的啟發
對於開發教育輔助或心理支持 AI 的實務者，建議：1. 預防性設計：在系統導入初期即需考慮如何緩解使用者對「非人性化」的恐懼，而非僅在被質疑時才澄清。2. 強化情感一致性：AI 的回應風格必須與人類諮商師保持高度一致，避免因語氣突兀導致使用者產生懷疑。3. 混合式模式：在處理高情緒張力的學習或諮商情境時，應設計明確的人機協作機制，確保在使用者產生懷疑時，能無縫切換至真人介入，以維護學習者或個案的安全感與信任感。
原始文獻資訊
- 英文標題：
- "Are you an AI?" Analyzing Client Suspicion of AI Use in Crisis Counseling
- 作者：
- Shreya Shah, Akshay Swaminathan, Meghana Simhadri, Ivan Lopez, Sharang Phadke, Divyanjali Verma, Abhay John, Luke Zhao, Fiona Cai, Sharon Zhang, Gloria Ye, Ivy Pham, William Wang, Sebastian Garcia, Sarah Wornow, Angelina Wang, Nigam H. Shah
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。