尋求幫助還是面臨傷害：TikTok 心理健康推薦內容審計研究
arXiv - Computers and SocietyPooriya Jamie, Amir Ghasemian, Homa Hosseinmardi
研究發現 TikTok 推薦系統難以區分用戶的求助意圖與痛苦表達，互動行為會導致心理健康內容大量充斥推薦頁面。
AI 幫你先抓重點
AI 重點 1
演算法對「意圖」與「行為」的誤判風險
滑鼠懸停看 AI 判斷理由
這項發現揭示了推薦演算法的盲點：它更傾向於追隨用戶的「點擊與停留」等行為指標，而非理解用戶背後的「心理需求」。這對於理解數位環境如何影響脆弱族群的心理健康至關重要。
AI 重點 2
內容過度飽和（Saturation）的負面循環
滑鼠懸停看 AI 判斷理由
研究顯示一旦用戶開始接觸特定主題，演算法會迅速將其餵養至飽和狀態。這提醒我們在設計數位學習或心理支持工具時，必須建立緩衝機制，避免用戶陷入單一情緒或主題的資訊繭房。
核心研究發現
- 1
用戶互動行為是決定內容曝光的主因：積極參與會使心理健康內容佔每日推薦量的 45%，而避開或被動觀看雖能減少曝光，但仍佔 11-20%。
- 2
搜尋框架對內容組成有影響：以「尋求幫助」為導向的搜尋會產生較多支持性素材，但仍無法完全排除有害內容。
- 3
推薦系統對用戶意圖的敏感度有限：即便用戶表現出避開行為，系統仍會推送心理健康相關影片，且包含自殺或自殘類別的風險內容。
對教育工作者的啟發
對於開發教育科技或心理支持工具的設計者，應從以下兩點著手：首先，應開發「情境感知（Context-aware）」的防護機制，當系統偵測到用戶可能處於情緒危機而非單純好奇時，應主動降低敏感內容的推送頻率；其次，在設計互動介面時，應避免僅依賴點擊率作為推薦核心，應加入更多能反映用戶「學習意圖」或「情緒狀態」的權重，以防止用戶陷入負面內容的資訊繭房，確保數位環境的安全性與支持性。
原始文獻資訊
- 英文標題：
- Seeking Help, Facing Harm: Auditing TikTok's Mental Health Recommendations
- 作者：
- Pooriya Jamie, Amir Ghasemian, Homa Hosseinmardi
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。