將 AI 過度依賴建模為複雜適應系統
arXiv - Computers and SocietyAhana Biswas
本研究將 AI 依賴視為群體動態過程，發現社會學習與社會證明會共同形塑群體的校準程度。
AI 幫你先抓重點
AI 重點 1
AI 依賴不只是個人認知問題，更是社會動態問題。
滑鼠懸停看 AI 判斷理由
傳統研究多聚焦於單一使用者的認知偏差，但本研究指出群體間的互動與觀察會放大或改變依賴行為，這要求我們在設計 AI 教育工具時，必須考慮到社交環境與群體規範的影響。
AI 重點 2
「可見性」是防止 AI 過度依賴的關鍵設計手段。
滑鼠懸停看 AI 判斷理由
研究顯示隱藏驗證過程會導致錯誤的社會證明，因此透過讓「驗證行為」變得透明，可以有效打破錯誤的行為級聯，這為教育科技產品的介面設計提供了具體的干預方向。
核心研究發現
- 1
環境因素（任務難度與 AI 品質）是決定群體過度依賴與校準後悔程度的基礎基準。
- 2
社會學習會產生共識而非過度依賴，只有當影響力能傳遞信念時，網絡連接性才會改變群體行為。
- 3
社會證明會引發回饋級聯效應，當觀察到他人未經驗證便使用 AI 時，會抑制驗證行為並導致集體過度依賴。
- 4
透過設計回饋機制（如讓驗證過程可見或減弱社會證明）可以防止群體陷入集體過度依賴的崩潰狀態。
對教育工作者的啟發
教育工作者與設計者在引入 AI 工具時，不應僅關注 AI 的準確度，更應關注使用者的「校準行為」。建議在數位學習環境中設計「透明化驗證機制」，例如：當學生使用 AI 時，系統應鼓勵並顯示其查證過程，而非僅顯示結果。此外，在小組學習（PBL）中，應警惕「社會證明」效應，避免學生因觀察到同儕盲目接受 AI 回答而放棄批判性思考，應透過設計結構化的討論與驗證任務，將驗證行為轉化為一種可見的學習規範。
原始文獻資訊
- 英文標題：
- Modeling AI Overreliance as a Complex Adaptive System
- 作者：
- Ahana Biswas
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。