為心理健康支援調整人機互動信任：多利益相關者調查與立場
arXiv - Human-Computer InteractionXin Sun, Yue Su, Yifan Mo, Qingyu Meng, Yuxuan Li, Saku Sugawara, Mengyuan Zhang, Charlotte Gerritsen, Sander L. Koole, Koen Hindriks, Jiahuan Pei
本文提出三層信任框架，結合技術與治療觀點，系統性回顧心理健康AI研究，指出評估指標缺口並提出研究議題。
AI 幫你先抓重點
AI 重點 1
三層信任框架將技術與治療需求對齊，為跨領域合作提供結構化指引。
滑鼠懸停看 AI 判斷理由
此框架將人、AI、互動三面納入，避免單一維度評估，促進技術開發者與臨床實務者共同制定可信度標準，提升系統實用性與用戶信任。
AI 重點 2
NLP自動指標與臨床實際需求之間的差距凸顯，提醒研究者需設計更貼近實務的評估方法。
滑鼠懸停看 AI 判斷理由
若僅依賴自動化度量，可能忽略情感同理與長期療效，導致AI工具在實際臨床環境中失效，影響用戶安全與治療成效。
AI 重點 3
未來研究需聚焦社會技術對齊與倫理合規，確保AI在心理健康領域的可持續發展。
滑鼠懸停看 AI 判斷理由
社會技術對齊能將技術創新與倫理、法律、用戶需求同步，避免技術落後於規範，確保AI工具在多元文化與法規環境下安全運作。
核心研究發現
- 1
研究發現，現有AI心理健康系統多聚焦技術指標（如魯棒性、可解釋性），忽略治療層面的適切性與同理心。
- 2
作者提出三層信任框架：人向、AI向、互動向，整合臨床實務者、研究者與監管者的觀點。
- 3
系統性回顧顯示，NLP常用自動化指標與臨床驗證方法差距大，缺乏能衡量長期用戶療效的評估。
- 4
文章指出評估實踐從自動化度量到臨床驗證不均衡，需建立跨領域的可信度測試流程。
- 5
提出未來研究議題：社會技術對齊、真實世界測試、倫理合規與用戶參與設計。
對教育工作者的啟發
對於心理健康AI開發者與臨床實務者，建議先確立三層信任指標，將人向、AI向與互動向納入評估；設計評估流程時結合自動化度量與臨床驗證，並邀請用戶與倫理專家共同參與；在產品迭代中持續追蹤長期療效與同理心表現，確保AI工具不僅技術可靠，更能符合治療倫理與用戶需求。
原始文獻資訊
- 英文標題：
- Aligning Human-AI-Interaction Trust for Mental Health Support: Survey and Position for Multi-Stakeholders
- 作者：
- Xin Sun, Yue Su, Yifan Mo, Qingyu Meng, Yuxuan Li, Saku Sugawara, Mengyuan Zhang, Charlotte Gerritsen, Sander L. Koole, Koen Hindriks, Jiahuan Pei
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。