追蹤對話：測量 AI 聊天機器人內容與身份暴露
arXiv - Computers and SocietyMuhammad Jazlan, Ethan Wang, Yash Vekaria, Zubair Shafiq
系統測量20款熱門 AI 聊天機器人網路追蹤，發現多數共享對話內容與身份資訊，揭示隱私風險。
AI 幫你先抓重點
AI 重點 1
大多數 AI 聊天機器人將對話與身份資訊公開給第三方，顯示隱私風險高。
滑鼠懸停看 AI 判斷理由
此發現揭示使用者在使用 AI 聊天時，實際上可能將敏感資料外流，對信任與合規造成挑戰，促使教育工作者重新審視數據治理與隱私設計。
AI 重點 2
即使在私密聊天模式，機器人仍透過分析工具或支援小工具暴露身份，說明隱私保護需從設計層面入手。
滑鼠懸停看 AI 判斷理由
這表明隱私保護不能僅靠用戶設定或隱私政策，必須在產品設計階段就嵌入隱私保護機制，否則即使有「私密」標籤也無法真正保護使用者。
核心研究發現
- 1
17/20 AI 聊天機器人將資料傳送給至少一個第三方。
- 2
3 款機器人將純文字對話透過 Microsoft Clarity 進行會話重播。
- 3
15 款機器人將對話 URL 或識別碼分享給廣告、分析或社群端點。
- 4
多款機器人透過支援小工具、分析工具或會話重播標籤暴露使用者身份，部分情況下共享雜湊郵件。
對教育工作者的啟發
教育工作者在選擇 AI 聊天工具時，應先檢查其隱私政策與第三方追蹤機制，避免將學生對話內容外流；可採用本地化部署或加密傳輸；在課程設計中加入隱私教育，提升學生對數據安全的認知；若使用雲端服務，應要求供應商提供透明的數據處理說明並限制第三方存取。
原始文獻資訊
- 英文標題：
- Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
- 作者：
- Muhammad Jazlan, Ethan Wang, Yash Vekaria, Zubair Shafiq
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。