超越單回覆：將拒絕重新定義為嵌入心理健康支援互動中的動態體驗
arXiv - Human-Computer InteractionNingjing Tang, Alice Qian, Qiaosi Wang, Esther Howe, Blake Bullwinkel, Paola Pedrelli, Jina Suh, Hoda Heidari, Hong Shen
研究顯示LLM拒絕行為是多階段動態體驗，提出評估框架與設計建議，提升心理健康支援品質
AI 幫你先抓重點
AI 重點 1
將LLM拒絕視為多階段體驗，可改進評估指標與設計策略
滑鼠懸停看 AI 判斷理由
此觀點強調拒絕行為的動態性，提醒設計者不能僅以單回覆合規為評估標準，能促進更人性化且安全的LLM介入
AI 重點 2
多階段框架揭示拒絕後的資源轉介與後續影響，提示實務者需關注使用者的後續心理狀態
滑鼠懸停看 AI 判斷理由
了解後續結果可幫助設計更完整的支援流程，減少因拒絕造成的負面情緒與信任損失，提升服務效能
核心研究發現
- 1
LLM拒絕不僅是單回覆，而是由預期、觸發、訊息框架、資源轉介、後續結果五個階段組成的動態體驗
- 2
調查共53名使用者與16名心理健康專業人士，發現拒絕行為會影響信任與實際心理健康支持效果
- 3
研究提出多階段評估框架與設計建議，鼓勵在LLM設計中納入動態拒絕處理與後續資源支援
對教育工作者的啟發
實務者可依本研究多階段框架，於LLM介面設計時加入預期提示、拒絕訊息設計、即時資源轉介與後續跟進功能，並透過使用者回饋持續評估拒絕對信任與情緒的影響，從而打造更安全、可信且具備情感支持的心理健康聊天機器人。
原始文獻資訊
- 英文標題：
- Beyond the Single Turn: Reframing Refusals as Dynamic Experiences Embedded in the Context of Mental Health Support Interactions with LLMs
- 作者：
- Ningjing Tang, Alice Qian, Qiaosi Wang, Esther Howe, Blake Bullwinkel, Paola Pedrelli, Jina Suh, Hoda Heidari, Hong Shen
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。