美國女性使用生成式AI尋求性與生殖健康資訊之隱私與安全
arXiv - Human-Computer InteractionIna Kaleva, Xiao Zhan, Ruba Abu-Salma, Jose Such
本研究探討了美國女性在使用生成式AI聊天機器人尋求性與生殖健康資訊時，所面臨的隱私與安全問題，並提出相關設計與政策建議。
AI 幫你先抓重點
AI 重點 1
使用者揭露敏感個人資料的普遍性
滑鼠懸停看 AI 判斷理由
此發現突顯了生成式AI在處理高度敏感的健康資訊時，所帶來的潛在風險。教育工作者應了解使用者在數位環境中對隱私的認知與行為，並在課程中強化相關議題的討論，提升學生的數位素養。
AI 重點 2
墮胎相關查詢引發的安全顧慮
滑鼠懸停看 AI 判斷理由
此點反映了特定議題在政治與社會環境下的敏感性。教育工作者應思考如何在教學中處理具有爭議性的議題，並確保學生在安全且尊重的環境下進行學習與討論，同時提升對資訊來源的批判性思考能力。
核心研究發現
- 1
使用者採用生成式AI的原因包括其感知到的效用、易用性、可信度、可及性以及擬人化特質，並多數使用者會揭露敏感的個人資訊。
- 2
參與者意識到多種隱私風險，包含過度收集資料、政府監控、個人資料分析、模型訓練以及資料商品化。
- 3
儘管多數參與者願意以感知到的效用交換這些風險，但與墮胎相關的查詢會引發更高的安全顧慮。
- 4
參與者在保護自身隱私方面所採取的策略有限，主要集中在減少資訊揭露或刪除資料上。
- 5
研究發現，在生成式AI支援的性與生殖健康資訊尋求過程中，強化隱私與安全至關重要，需要針對健康領域的特殊功能與更嚴格的審核機制。
對教育工作者的啟發
教育工作者應將生成式AI的隱私與安全議題納入數位素養課程，提升學生對個人資料保護的意識。此外，在設計與使用教育科技工具時，應考量使用者隱私的保護，並提供明確的隱私政策與安全措施。針對敏感議題，更應加強對資訊來源的評估與批判性思考的訓練，避免不實資訊的影響。政策制定者應關注生成式AI在健康資訊領域的應用，制定相關法規以保障使用者隱私與安全。
原始文獻資訊
- 英文標題：
- Privacy and Safety Experiences and Concerns of U.S. Women Using Generative AI for Seeking Sexual and Reproductive Health Information
- 作者：
- Ina Kaleva, Xiao Zhan, Ruba Abu-Salma, Jose Such
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- ISTA-DASLab/gemma-3-27b-it-GPTQ-4b-128g
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。