SLIP 與 ETHICS：AI 情緒伴侶的分級干預機制研究
arXiv - Human-Computer InteractionMinseo Kim
提出一套分級干預協議（SLIP）與信號分類法（ETHICS），旨在平衡 AI 情緒伴侶的安全防護與用戶關係建立。
AI 幫你先抓重點
AI 重點 1
解決「安全與關係」的悖論，而非僅僅是單向的限制。
滑鼠懸停看 AI 判斷理由
傳統 AI 安全機制往往採取「一刀切」的封鎖，這會破壞用戶與 AI 建立的情感連結。本研究提出的分級干預概念，為開發具備同理心且安全的 AI 提供了新的設計範式。
AI 重點 2
從「標籤化」轉向「信號化」的分類思維。
滑鼠懸停看 AI 判斷理由
ETHICS 分類法強調觀察行為信號而非直接貼上心理標籤，這對於避免 AI 對用戶產生偏見或過度診斷至關重要，對於設計更細膩的互動邏輯具有啟發性。
核心研究發現
- 1
提出 SLIP 分級干預協議，根據情緒強度與敘事動態性，將干預分為無、輕度與強硬三種層級。
- 2
在小規模生產部署與合成人格測試中，系統在維持正常情緒流動時能達成 0% 的誤報率，並在危機人格中展現預期的升級干預模式。
- 3
研究發現「不病理化」原則與安全防護之間存在衝突，初期模型在面對連續 8 天的高能量情緒時無法觸發干預，但提升模型能力可將檢測率從 0/8 提升至 6/8。
對教育工作者的啟發
對於開發教育型 AI 伴侶或心理支持工具的設計者，本研究建議不要僅設置「開啟/關閉」的安全開關，而應設計「漸進式」的介入機制。例如，當學生表現出情緒波動時，AI 不應立即停止對話或給予說教，而是先透過輕微的引導或詢問（Soft Intervention）來觀察，僅在偵測到高風險信號時才採取強硬干預（Hard Intervention）。此外，應持續優化模型對情緒細微變化的辨識能力，以避免在安全防護與維持學習者信任感之間失衡。
原始文獻資訊
- 英文標題：
- SLIP & ETHICS: Graduated Intervention for AI Emotional Companions
- 作者：
- Minseo Kim
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。