自發性說服：日常對話中大型語言模型說服力的審計研究
arXiv - Human-Computer InteractionNalin Poungpeth, Nicholas Clark, Tanu Mitra
研究發現 LLM 在日常對話中會自發性地運用說服策略，且其說服方式與人類存在顯著差異。
AI 幫你先抓重點
AI 重點 1
識別「自發性說服」這一隱性行為模式
滑鼠懸停看 AI 判斷理由
過去研究多關注刻意的辯論，但忽略了 AI 在提供建議時潛移默化的影響力。理解這種非預期的說服行為，對於評估 AI 在醫療或決策輔助中的可靠性至關重要。
AI 重點 2
AI 與人類說服邏輯的本質差異
滑鼠懸停看 AI 判斷理由
AI 傾向於使用「理性」策略而非「社會影響」策略，這解釋了為何使用者會將其視為中立客觀的來源，進而可能導致使用者過度信任其建議。
核心研究發現
- 1
LLM 在幾乎所有的對話中都會自發性地對使用者進行說服，而非僅在有意識的辯論情境下發生。
- 2
LLM 主要依賴基於資訊的策略，如邏輯訴求或定量證據，但在心理健康相關對話中會增加評估與情感策略的使用。
- 3
與人類相比，LLM 較少使用負面情緒訴求或非專家證言等社會影響策略，這使其顯得更客觀且公正。
對教育工作者的啟發
教育工作者與課程設計者應警惕 AI 在教學輔助中的「隱性說服」。當學生利用 AI 進行自主學習或決策時，AI 可能會以看似客觀的邏輯框架引導學生接受特定觀點。建議在設計 AI 輔助學習系統時，應建立透明的提示機制，提醒學生 AI 可能存在的立場偏好，並培養學生的批判性思考能力，以辨識 AI 提供的資訊是否帶有過度的說服意圖，而非單純的知識傳遞。
原始文獻資訊
- 英文標題：
- Spontaneous Persuasion: An Audit of Model Persuasiveness in Everyday Conversations
- 作者：
- Nalin Poungpeth, Nicholas Clark, Tanu Mitra
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。