人們對生成式 AI 風險的認知：失敗模式、風險與責任歸屬
arXiv - Human-Computer InteractionMegan Li, Wendy Bickersteth, Ningjing Tang, Parv Kapoor, Khinezin Win, Peter Zhong, Jason I. Hong, Lorrie Faith Cranor, Hoda Heidari, Hong Shen
本研究開發並驗證了一套評估工具，用以衡量公眾對生成式 AI 失敗模式、風險及責任歸屬的認知程度。
AI 幫你先抓重點
AI 重點 1
將 AI 風險與「失敗模式」掛鉤，而非僅討論抽象風險。
滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 安全教育的理解，從討論模糊的威脅轉向具體的社會技術故障模式，使風險教育更具實務操作性與情境感。
AI 重點 2
強調 AI 素養應與日常使用情境與推理方式對齊。
滑鼠懸停看 AI 判斷理由
這對於設計 AI 素養課程至關重要，提醒教育者不應只教技術原理，更應教導使用者如何在日常互動中辨識並應對潛在的系統失效。
核心研究發現
- 1
研究開發出一套基於真實案例與失敗模式分類法的問卷工具，並經由八位專家驗證其內容效度。
- 2
該工具能有效評估使用者在當前使用情境下的風險意識，且具備擴展至未來新情境的潛力。
- 3
研究結果顯示，現有的評估工具對於理解公眾如何感知 AI 風險與責任分配具有高度實用價值。
對教育工作者的啟發
對於課程設計者而言，這項研究提供了設計「情境化 AI 素養」的框架。建議在開發 AI 教育工具或課程時，不要僅停留在技術功能的教學，而應引入「情境化案例研究」，模擬生成式 AI 在實際應用中可能出現的失敗模式（如偏見、錯誤資訊或社會技術失效）。透過讓學習者在接近真實的場景中進行風險評估與責任辨識，能更有效地培養其批判性思考能力與數位素養，使其具備在複雜 AI 環境中進行自主決策的能力。
原始文獻資訊
- 英文標題：
- What People See (and Miss) About Generative AI Risks: Perceptions of Failures, Risks, and Who Should Address Them
- 作者：
- Megan Li, Wendy Bickersteth, Ningjing Tang, Parv Kapoor, Khinezin Win, Peter Zhong, Jason I. Hong, Lorrie Faith Cranor, Hoda Heidari, Hong Shen
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。