社交網絡中的 AI 傳染：AI 與社會資訊穩定性的互動研究
arXiv - Computers and SocietyOlivier Bos, Stefano Bosi
研究 AI 生成內容與社交網絡間的遞迴回饋機制，如何導致資訊失真並影響集體知識的穩定性。
AI 幫你先抓重點
AI 重點 1
警惕 AI 與人類資訊環境形成的「遞迴失真」風險
滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 影響力的認知：AI 不僅是內容產生器，它還會透過改變數據環境來「污染」未來的訓練集，形成一種自我強化的錯誤循環，這對知識建設的長期穩定性構成威脅。
AI 重點 2
網絡結構會放大或緩解 AI 帶來的資訊風險
滑鼠懸停看 AI 判斷理由
理解社交網絡的拓撲結構（如同質性）對於預測資訊傳染至關重要。這意味著單純優化 AI 演算法是不夠的，必須同時考慮資訊在社會網絡中流動的結構性因素。
核心研究發現
- 1
發現 AI 與社交網絡之間存在遞迴回饋迴圈，AI 生成的內容會影響社會資訊環境，而這些環境又會成為 AI 重新訓練的數據來源。
- 2
透過將高維度環境簡化為二維表示法，研究證明系統的譜半徑（spectral radius）能完全表徵 AI 調解資訊系統的穩定性。
- 3
研究推導出一個明確的監管邊界，定義了維持資訊系統穩定所需的最低過濾強度。
- 4
社交網絡的結構特性，如同質性（homophily）與核心-邊緣結構（core-periphery），會顯著改變系統性的資訊風險。
對教育工作者的啟發
對於教育科技設計者而言，這項研究提醒我們在開發 AI 輔助學習系統或知識建構平台時，不能僅關注單一 AI 模型的準確度，必須考量「AI 生成內容」與「學生社交互動」之間的長期回饋機制。建議在設計數位學習社群時，應建立有效的資訊過濾與驗證機制，以防止錯誤知識在學生網絡中產生「傳染」效應。此外，設計者應特別注意社群結構的設計，避免過度的同質性導致資訊繭房，進而引發集體知識系統的崩潰。
原始文獻資訊
- 英文標題：
- AI Contagion in Social Networks
- 作者：
- Olivier Bos, Stefano Bosi
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。