edtechaihigher educationassessmentlearning design

算法成癮設計：大科技利用黑暗模式維持市場霸權與內容審核挑戰

arXiv - Computers and SocietyMichelle Nie

大科技利用黑暗模式與AI推薦系統，設計成癮行為，對青少年健康造成負面影響，並探討內容審核與政策對策。

AI 幫你先抓重點

AI 重點 1

黑暗模式與 AI 推薦系統結合是青少年成癮的關鍵驅動力

滑鼠懸停看 AI 判斷理由
此結合不僅提升使用者黏著度，還加劇了平台對個人數據的利用，改變了教育工作者在設計數位學習環境時對隱私與成癮風險的評估。
AI 重點 2

AI 建議關注內容審核的政策層面缺口，因為現行規範難以應對自動化推薦造成的成癮效應

滑鼠懸停看 AI 判斷理由
若忽視此缺口，教育平台可能無法有效限制過度使用，進而影響學生的學習動機與身心健康，需在政策制定中納入成癮指標。

核心研究發現

  1. 1

    研究指出，大型科技公司透過黑暗模式、說服性設計與 AI 推薦演算法，刻意培養使用者成癮行為，以鞏固市場主導地位。

  2. 2

    過度使用社交媒體已成為青少年與年輕成人心理與社會發展的主要問題，研究顯示此成癮行為與平台設計密切相關。

  3. 3

    內容審核在對抗成癮設計方面面臨挑戰，需透過政策層面的解決方案來減緩平台對使用者的操控與成癮風險。

對教育工作者的啟發

教育工作者應將成癮風險納入數位素養課程，設計具備透明度與自我調節功能的學習平台；同時推動校園內的內容審核機制，與政策制定者合作制定成癮指標；利用 AI 監測工具辨識高風險使用者，並提供個別化的使用限制與心理支援，協助學生建立健康的數位使用習慣。

原始文獻資訊

英文標題：
Algorithmic Addiction by Design: Big Tech's Leverage of Dark Patterns to Maintain Market Dominance and its Challenge for Content Moderation
作者：
Michelle Nie
來源：
arXiv - Computers and Society
AI 摘要模型：
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。