SciRisk-Bench：針對 AI4Science 安全性的風險維度感知基準測試
arXiv - Computers and SocietyLinghao Feng, Yinqian Sun, Dongqi Liang, Sicheng Shen, Chenfei Yan, Yuxuan Peng, Yilin Zhao, Haibo Tong, Kai Li, FeiFei Zhao, Yi Zeng
本文提出 SciRisk-Bench 基準測試，從科學學科與風險維度兩大視角評估 AI 在科學研究中的安全性。
AI 幫你先抓重點
AI 重點 1
從「科學能力」轉向「科學安全性」的評估範式轉移
滑鼠懸停看 AI 判斷理由
過去對 AI4Science 的評估多集中於知識正確性，但隨著 AI 進入實驗室規劃與自主發現階段，識別潛在風險（如生物安全或化學危害）的能力變得與科學能力同等重要。
AI 重點 2
多維度風險分析對於科學模型診斷的必要性
滑鼠懸停看 AI 判斷理由
單一的評估指標無法捕捉科學領域複雜的風險特徵，透過學科與風險維度的交叉評估，能幫助開發者精確定位模型在特定科學情境下的安全盲點。
核心研究發現
- 1
SciRisk-Bench 涵蓋了 7 個科學學科、31 個子學科以及 10 個不同的風險維度，提供了細粒度的評估框架。
- 2
該研究透過實驗評估了主流大型語言模型（LLMs）與科學導向模型在不同學科與風險維度下的表現。
- 3
研究能夠針對科學模型在哪些特定領域或風險類型中存在安全缺陷，進行精確的診斷與分析。
對教育工作者的啟發
對於致力於開發科學教育工具或 AI 輔助研究系統的設計者而言，此研究強調了「安全性評估」應與「知識檢索」並行。在設計 AI 驅動的科學實驗室模擬或自主學習環境時，不應僅測試 AI 是否能給出正確答案，更需建立機制檢測 AI 是否會引導使用者進行危險實驗或違反科學倫理。建議在課程設計中加入「AI 安全性批判性思考」的環節，讓學生學習如何辨識 AI 生成內容中的潛在科學風險。
原始文獻資訊
- 英文標題：
- SciRisk-Bench: A Risk-Dimension-Aware Benchmark for AI4Science Safety
- 作者：
- Linghao Feng, Yinqian Sun, Dongqi Liang, Sicheng Shen, Chenfei Yan, Yuxuan Peng, Yilin Zhao, Haibo Tong, Kai Li, FeiFei Zhao, Yi Zeng
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。