AI 建議會抑制人們說「我不知道」的意願，即便建議錯誤且有正確性獎勵
arXiv - Computers and SocietyChiara Marcoccia, Walter Quattrociocchi, Valerio Capraro
研究發現 AI 的存在會降低人們判斷自身知識邊界的意願，導致錯誤率上升且自信心虛假膨脹。
AI 幫你先抓重點
AI 重點 1
AI 可能會侵蝕人類的元認知監控能力
滑鼠懸停看 AI 判斷理由
這項發現揭示了 AI 不僅是工具，更可能改變人類的認知模式。當 AI 總是提供流暢的答案時，人們會逐漸喪失評估自身知識邊界的敏感度，這種元認知能力的退化對於自主學習至關重要。
AI 重點 2
警惕「高自信、低準確」的認知陷阱
滑鼠懸停看 AI 判斷理由
研究顯示 AI 會導致自信心與正確率脫節。在教育情境中，這意味著學習者可能在錯誤的資訊下產生錯誤的自我效能感，導致學習者誤以為自己掌握了知識，實則陷入認知誤區。
核心研究發現
- 1
即便 AI 提供的是錯誤建議，僅僅是能接觸到 AI 就幾乎消除了參與者「暫緩判斷」的意願。
- 2
使用 AI 後，參與者回答問題的數量增加，但正確率卻比沒有 AI 時下降了三分之二，且自信心卻幾乎翻倍。
- 3
雖然提供正確性獎勵與錯誤懲罰能減少對 AI 的依賴並提高準確度，但其表現仍遠不及沒有 AI 輔助時的情況。
- 4
AI 的建議不僅影響回答的準確性，更可能改變人類決定「自己是否知道 enough」的元認知閾值。
對教育工作者的啟發
教育工作者在引入 AI 工具時，應特別注意其對學生元認知能力的影響。建議不要僅將 AI 作為「答案提供者」，而應設計能引導學生進行「批判性評估」的任務。例如，設計「尋找 AI 錯誤」的教學活動，或在 AI 輔助學習中加入強制性的「自我評估」環節，要求學生在參考 AI 前先判斷自己的知識水平。此外，課程設計者應建立評估機制，不僅關注最終答案的正確性，更要關注學生判斷「知識邊界」的能力，防止學生過度依賴 AI 而導致認知能力的萎縮。
原始文獻資訊
- 英文標題：
- AI advice suppresses people's willingness to say "I don't know", even when the advice is wrong and accuracy is incentivized
- 作者：
- Chiara Marcoccia, Walter Quattrociocchi, Valerio Capraro
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。