aiedtechmetacognitionlearning designassessment

從使用到監督：心理模型如何影響 AI 寫作助手的使用與輸出

arXiv - Human-Computer InteractionShalaleh Rismani, Su Lin Blodgett, Q. Vera Liao, Alexandra Olteanu, AJung Moon

研究發現，結構性心理模型提升系統理解但同時導致更高語法錯誤，揭示使用者對 AI 產出的監督與信任關係的複雜性。

AI 幫你先抓重點

AI 重點 1

結構性心理模型提升系統理解但可能降低對 AI 語法錯誤的檢查。

滑鼠懸停看 AI 判斷理由
此洞察揭示過度透明可能削弱使用者的監督行為，提醒設計者需在提供系統知識與維持使用者警覺之間取得平衡。
AI 重點 2

功能性心理模型直接影響對 AI 建議的接受與編輯，提示介面設計可聚焦功能說明。

滑鼠懸停看 AI 判斷理由
了解功能性模型對控制行為的影響，可協助教育工作者設計更符合學習者需求的寫作輔助工具，提升學習成效。

核心研究發現

  1. 1

    參與者在結構性心理模型條件下對系統的可用性評價更高，但寫出的信件語法錯誤更多。

  2. 2

    功能性心理模型條件下，使用者對 AI 建議的接受與編輯行為與功能性描述一致，顯示功能性模型更能影響直接控制行為。

  3. 3

    兩種心理模型均影響寫作成果，但結構性模型的負向效應（更多錯誤）表明在需要監督的情境中，過度理解可能削弱對錯誤的檢查。

對教育工作者的啟發

設計 AI 寫作助手時，應同時提供功能說明與系統運作透明度，避免過度透明導致使用者忽視錯誤；加入明確的錯誤提示與校正機制；在教學中強調使用者需保持監督，培養批判性閱讀與編輯能力；利用心理模型測試介面設計，以確保使用者能有效控制 AI 建議。

原始文獻資訊

英文標題：
From Use to Oversight: How Mental Models Influence User Behavior and Output in AI Writing Assistants
作者：
Shalaleh Rismani, Su Lin Blodgett, Q. Vera Liao, Alexandra Olteanu, AJung Moon
來源：
arXiv - Human-Computer Interaction
AI 摘要模型：
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。