透過可控互動設計值得信賴的 LLM 身心健康建議系統
arXiv - Human-Computer InteractionAlan Said, Alexandra Weilenmann
本文提出一個系統性框架，透過顯式互動約束來提升 LLM 在身心健康建議中的透明度、可控性與信任感。
AI 幫你先抓重點
AI 重點 1
從「隱含提示」轉向「顯式約束」的設計範式轉移
滑鼠懸停看 AI 判斷理由
這改變了開發者對 AI 代理的控制邏輯。不再僅僅試圖透過複雜的 Prompting 來引導行為，而是透過系統層級的結構化約束來確保建議的安全性與透明度，這對於涉及用戶長期福祉的應用至關重要。
AI 重點 2
強調「感知代理權（Perceived Agency）」在 AI 互動中的重要性
滑鼠懸停看 AI 判斷理由
在身心健康或自主學習情境下，AI 不應只是給予指令，更應賦予用戶掌控感。理解如何透過 AI 設計來強化用戶的自主性，是設計有效輔助系統的核心關鍵。
核心研究發現
- 1
現有的 LLM 建議機制過度依賴隱含的提示詞（Prompting）與對齊技術，導致在身心健康領域中難以精確控制建議的表達方式與責任歸屬。
- 2
透過引入顯式的互動約束（如引導策略、解釋風格、直接程度及用戶控制機制），可以有效解決信任校準、意圖對齊與後果意識等挑戰。
- 3
提出一種模組化架構，允許系統根據不同的配置進行系統化設計，並針對自我效能感、感知代理權與適當依賴度等用戶中心指標進行評估。
對教育工作者的啟發
對於開發教育輔助或心理支持工具的設計者，建議不要僅依賴單純的對話式 AI，應建立「可控的互動層」。例如，在提供學習建議或情緒支持時，應允許用戶選擇「建議的直接程度」（如：溫和引導 vs. 直接指令）或「解釋的深度」。這種設計能提升用戶的自我效能感與信任度，避免用戶產生過度依賴或因 AI 指令過強而喪失自主學習（SRL）的動力。透過模組化設計，可以根據不同學習階段或心理需求，動態調整 AI 的引導策略。
原始文獻資訊
- 英文標題：
- Designing Trustworthy LLM-based Wellbeing Recommendation through Controllable Interaction
- 作者：
- Alan Said, Alexandra Weilenmann
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。