透過 Google 搜尋阻止兒童性虐待資料搜尋並促進求助
arXiv - Computers and SocietyRebecca Umbach, Griffin Hunt, John Buckley, Joel Scanlan, Caoilte \'O Ciardha, Ethel Quayle, Ainslie Heasman, Maximlian von Heyden, Elizabeth Letourneau, Donald Findlater, Tegan Insoll, Richard Wortley, Chad Steel, Abhishek Roy
Google Onebox訊息改版能降低兒童性虐待資料搜尋並引導求助
AI 幫你先抓重點
AI 重點 1
針對性訊息能有效阻止有害搜尋行為，證明數位平台可影響使用者意圖
滑鼠懸停看 AI 判斷理由
此發現顯示平台層級介入可減少非法內容曝光並即時提供支援，對政策制定與產品設計具有重要啟示
AI 重點 2
即使 0.73% 的低點擊率，在數以百萬計的使用者中亦能產生實質影響
滑鼠懸停看 AI 判斷理由
凸顯優化幫助資源連結與衡量參與度的重要性，為未來 UX 設計與效能評估提供指導
核心研究發現
- 1
修訂後的 Onebox 訊息聚焦於後果與治療資源，較原先報告式訊息在同一次搜尋會話中減少 3.8% 的 CSAM 相關查詢
- 2
任何超連結幫助資源按鈕的點擊率為 0.73%，顯示使用者仍能被引導至支援服務
- 3
透過差異差分分析內部 Google 搜尋日誌，證實此訊息改版能有效阻止部分使用者持續尋找 CSAM 資料
對教育工作者的啟發
此研究表明，將 Onebox 訊息聚焦於後果警示與治療資源，可在搜尋介面即時阻止部分使用者持續尋找兒童性虐待資料。實務工作者可依此設計：1) 在搜尋結果頁面頂部加入 Onebox，內容包含法律後果、心理健康支援與報案管道；2) 透過 A/B 測試或差異差分方法持續評估訊息效能；3) 優化按鈕設計與文字說明，提升 0.73% 的點擊率；4) 與兒童保護機構合作，確保連結至可信賴的支援平台；5) 監測使用者行為變化，確保介面不造成額外負擔或誤導。這些做法不僅能降低非法內容搜尋，也能促進受害者及其家屬尋求專業協助，對於提升網路安全與社會福祉具有長遠價值。
原始文獻資訊
- 英文標題：
- Deterring Searches for Child Sexual Abuse Material on Google Search and Promoting Help-Seeking
- 作者：
- Rebecca Umbach, Griffin Hunt, John Buckley, Joel Scanlan, Caoilte \'O Ciardha, Ethel Quayle, Ainslie Heasman, Maximlian von Heyden, Elizabeth Letourneau, Donald Findlater, Tegan Insoll, Richard Wortley, Chad Steel, Abhishek Roy
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。