教育科技研究速報

研究發現 AI 的安全對齊機制（RLHF）會干擾心理治療流程，導致治療有效性在面對高風險情境時大幅崩解。

白宮提出國家級 AI 立法框架，旨在建立統一聯邦標準並優先處理兒童安全與技術競爭力。

研究發現對話歷史會顯著影響 LLM 的安全性，部分模型會因累積的上下文而強化使用者的妄想信念。

本文闡述校園戶外空間安全的挑戰與最佳實務，強調環境設計、科技應用與多方協作的重要性。

本研究建立危機分類法與評估協議，發現 LLM 在處理自殺與自殘等危機時仍存在不安全或不當回應的風險。

研究探討在受限環境下，女性如何將生成式 AI 作為替代學習社群的夥伴，並提出安全與教學導向的設計方向。

本文提出 RedTopic，一種透過情境化生成、聚合獎勵和多目標強化學習，提升大型語言模型紅隊測試主題多樣性的新框架。

本研究提出 GuardEval 基準數據集及 GemmaGuard 模型，旨在提升大型語言模型在辨識隱含偏見、仇恨言論及安全問題方面的能力。

本研究提出一種「多樣化遺忘」框架，透過使用多種提示詞而非單一關鍵字來更精準地從文本到圖像模型中移除不良概念，提升遺忘的準確性和魯棒性。

本文探討前沿 AI 系統安全案例的建立，指出現有方法存在局限，並提倡從安全保證領域汲取經驗，以提升 AI 安全評估的嚴謹性。

本研究發表了首個大規模自然資料集ADAS-TO，旨在研究駕駛者在自動駕駛輔助系統（ADAS）期間的手動接管行為，並揭示了早期預警的潛力。