人機互動回饋對系統準確度感知與信任的影響：任務主觀性的關鍵作用
arXiv - Human-Computer InteractionDonald R. Honeycutt, Mahsan Nourani, Eric D. Ragan
研究發現提供回饋會降低用戶對客觀任務系統的信任與準確度感知，但對主觀任務則無此負面影響。
AI 幫你先抓重點
AI 重點 1
回饋機制可能產生「反直覺」的負面心理效應
滑鼠懸停看 AI 判斷理由
開發者通常認為允許使用者回饋能提升系統，但研究顯示在客觀任務中，回饋行為反而會削弱使用者對系統能力的信心，這提醒設計者必須平衡「賦權使用者」與「維持系統權威感」之間的矛盾。
AI 重點 2
任務性質（客觀 vs. 主觀）是決定使用者心理反應的核心變量
滑鼠懸停看 AI 判斷理由
這改變了我們設計 AI 互動介面的邏輯：對於評分或事實檢索等客觀工具，應謹慎設計回饋流程以避免信任崩解；而對於創意或意見類工具，則可更開放地鼓勵互動。
核心研究發現
- 1
在存在客觀正確答案的任務情境中，提供人機互動（HITL）回饋會降低使用者對系統準確度的感知與信任度，即便系統隨後確實改善了準確性。
- 2
當回饋內容涉及主觀意見時，使用者並不會對系統產生上述的負面偏見，其感知與信任度表現較為穩定。
- 3
隨著時間推移，在客觀任務情境下使用者會對系統產生「不信任（distrust）」，而在主觀任務情境下則會產生「不信任感（mistrust）」。
對教育工作者的啟發
在設計教育 AI 工具（如自動評分系統或知識問答機器人）時，應根據任務性質採取不同策略。若工具用於處理有標準答案的知識點（客觀任務），應謹慎設計回饋介面，避免讓學生因嘗試修正系統而對工具的專業性產生懷疑。相反地，若工具用於寫作輔助或創意發想（主觀任務），則可大膽設計互動回饋機制，因為這類任務較不會因回饋行為而損害使用者的信任感。設計者應預先評估任務的「主觀性程度」，以優化學習者的信任與參與度。
原始文獻資訊
- 英文標題：
- Human-in-the-Loop User Feedback Affects Perceived Accuracy and Trust, but Task Subjectivity Matters
- 作者：
- Donald R. Honeycutt, Mahsan Nourani, Eric D. Ragan
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。