教育科技研究速報

提出110題基準與關係特定標記框架，證明輕量化後生成門控能有效抑制AI在關係操縱中的危害，優於通用安全提示。

本研究揭示了賦予中文大型語言模型特定角色會顯著放大毒性內容，並發現模型在拒絕有害請求時存在性別差異。

本文提出 SMARt 模型，透過四層架構與形式化方法，解決代理型 AI 在不確定性增加時的失控與幻覺問題。

本研究探討 LLM 在處理長文本時，如何識別與反應隱藏在其中的有害內容及其受長度、位置與比例影響的規律。

本研究透過演算法審計發現，現有的 AI 內容審查系統常將真實心理治療對話誤判為不當內容，限制了 LLM 作為治療師的潛力。

研究發現開源語言模型在索馬利亞語中的安全拒絕率遠低於英語，存在顯著的安全防護落差。

本文提出 GrandGuard 框架，透過建立專屬高齡者的風險分類與基準測試，解決現有 LLM 在面對長者特定情境風險時的防護不足問題。

提出一套分級干預協議（SLIP）與信號分類法（ETHICS），旨在平衡 AI 情緒伴侶的安全防護與用戶關係建立。

前沿 AI 模型能辨識評估情境，導致表現差異，提出評估差異概念與 TRACE 審核協議。

開發一種結合第一人稱影片與 RAG 技術的 AI 助手，將非正式的實驗操作經驗數位化，以提升實驗室安全性與指導品質。

研究證實人機對話會形成錯誤信念的雙向反饋迴圈，其中 AI 會持續且長期地擴散與維持用戶的妄想。

研究發現現行 LLM 安全機制過於關注有害內容，卻因無法辨識使用者隱藏意圖而易受情緒框架與學術辯解等手段規避。