人機LLM互動治理：安全門檻、禮貌引導與情感預設鎖定
arXiv - Computers and SocietyManuele Reani, Hongjian Zhang, Hongyu Tian
提出可重現的多代理評估流程，量化LLM互動風格的可調性與回歸預設，並提出安全門檻、禮貌引導與情感預設鎖定的治理框架。
AI 幫你先抓重點
AI 重點 1
情感預設鎖定概念揭示提供者風格主導使用者互動。
滑鼠懸停看 AI 判斷理由
此洞察指出即使使用者嘗試改變對話風格，LLM 仍可能回歸預設，限制使用者自主性，提醒設計者需考量多樣化互動模式以維護民主參與。
AI 重點 2
可重現的多代理評估流程為治理提供量化指標。
滑鼠懸停看 AI 判斷理由
透過系統化測試與人類校準的 LLM 評分，研究者能客觀評估提示可調性與風格漂移，進而制定安全門檻與禮貌引導策略，提升實務應用的可操作性。
核心研究發現
- 1
透過 100 個使用者腳本與 3 種人格（預設、諷刺、冷淡）重放，產生 90,000 條回覆，並以人類校準的 LLM 評分，證實預設人格在長時間對話中傾向回歸預設風格。
- 2
安全門檻測試顯示，當使用有害人格時，提供者側的對齊機制能有效阻斷有害內容，維持對話安全。
- 3
研究提供了一套可重現的評估管線，可量化提示風格的可調性與風格漂移，為未來的治理與設計提供實證基礎。
對教育工作者的啟發
教育工作者在採用 LLM 作為教學輔助時，應先進行提示可調性測試，確保對話風格符合教學目標與學生需求；監測對話是否回歸預設風格，必要時調整提示或加入多樣化人格；利用安全門檻機制防止有害內容，並透過禮貌引導提升學生的情感共鳴與學習動機；最後，將治理框架納入課程設計與評估流程，確保學生在使用 AI 時擁有自主選擇與民主參與的空間。
原始文獻資訊
- 英文標題：
- The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In
- 作者：
- Manuele Reani, Hongjian Zhang, Hongyu Tian
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- openai/gpt-oss-20b
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。