利用大型視覺語言模型調節不安全UGCG的非法圖像推廣
arXiv - Computers and SocietyKeyan Guo, Ayush Utkarsh, Wenbo Ding, Isabelle Ondracek, Ziming Zhao, Guo Freeman, Nishant Vishwamitra, Hongxin Hu
提出UGCG-Guard系統，利用大型視覺語言模型零樣本推廣圖像檢測，達94%準確率
AI 幫你先抓重點
AI 重點 1
大型視覺語言模型可實現零樣本推廣圖像檢測，突破傳統資料匱乏限制
滑鼠懸停看 AI 判斷理由
此方法不需大量人工標註資料，能快速擴展至新興UGCG，對平台安全監控具有即時性與可擴展性，改變傳統監測模式
AI 重點 2
UGCG-Guard的條件提示與思維鏈策略實現高準確率，顯示條件式推理在圖像安全領域的潛力
滑鼠懸停看 AI 判斷理由
此結合可提升偵測精度，證明條件式推理能捕捉UGCG圖像的細微語境差異，為未來跨模態安全檢測提供新思路
核心研究發現
- 1
收集了 2,924 張圖像，包含多樣性性暴露與暴力內容，用於推廣UGCG。
- 2
研究顯示目前缺乏針對UGCG圖像的訓練資料，且其特徵與傳統不安全內容不同。
- 3
UGCG-Guard系統採用大型視覺語言模型與條件提示策略進行零樣本領域適應，並結合思維鏈推理，實現94%準確率。
對教育工作者的啟發
實務工作者可先收集本地UGCG推廣圖像，利用UGCG-Guard或類似大型視覺語言模型進行零樣本檢測，並結合條件提示與思維鏈推理提升偵測精度。平台可將模型輸出作為自動標記，配合人工審核，快速篩除不安全內容。教育政策制定者亦可參考此技術，制定針對UGCG的安全規範與監測指標，並推動跨平台共享模型與資料，提升整體網路安全生態。
原始文獻資訊
- 英文標題：
- Moderating Illicit Online Image Promotion for Unsafe User-Generated Content Games Using Large Vision-Language Models
- 作者：
- Keyan Guo, Ayush Utkarsh, Wenbo Ding, Isabelle Ondracek, Ziming Zhao, Guo Freeman, Nishant Vishwamitra, Hongxin Hu
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。