邁向 AI 聊天機器人的有意義透明度：揭露說服意圖可降低說服力
arXiv - Computers and SocietyAdrian Rauchfleisch, Andreas Jungherr
研究發現僅揭露 AI 身份無法有效降低其影響力，唯有揭露其「說服意圖」才能顯著削弱 AI 的說服效果。
AI 幫你先抓重點
AI 重點 1
透明度的定義應從「系統身份」轉向「系統意圖」
滑鼠懸停看 AI 判斷理由
目前的法規多著重於標示「這是 AI」，但研究顯示這對抵禦 AI 影響力收效甚微。這提醒我們，真正的透明度必須包含 AI 的目的與運作邏輯，才能賦予使用者真正的自主權。
AI 重點 2
揭露意圖能激發使用者的批判性防禦機制
滑鼠懸停看 AI 判斷理由
當使用者意識到被「試圖說服」時，會從被動接收者轉變為主動評估者。這對於設計具備批判性思考能力的 AI 學習環境至關重要，能防止學生盲目接受 AI 生成的觀點。
核心研究發現
- 1
在對話中僅告知使用者正在與 AI 互動（T1 組），其對態度的改變程度（13.1 分）與完全不告知（控制組 12.6 分）幾乎無異。
- 2
若在告知 AI 身份的基礎上，進一步揭露其「說服意圖與指令」（T2 組），AI 的說服效果會從 12.6 分降至 6.3 分，效果減半。
- 3
揭露說服意圖不僅降低了 AI 的影響力，還會讓參與者認為該宣傳手段不具接受性，並支持對此類行為施加更嚴厲的處罰。
對教育工作者的啟發
對於教育工作者與課程設計者，此研究提供了關於「AI 素養」教育的重要啟發。在設計 AI 輔助學習工具時，不應僅滿足於標示「這是 AI」，更應教導學生如何辨識 AI 的潛在偏見與說服目的。在課程中，可以引入「意圖揭露」的實驗，讓學生練習在已知 AI 具有特定目標（如：試圖改變某種觀點）的情況下，如何保持批判性思考，避免被 AI 生成的內容進行認知操縱，從而建立更深層次的數位批判素養。
原始文獻資訊
- 英文標題：
- Toward Meaningful Transparency for AI Chatbots: Disclosing Persuasive Intent Reduces Persuasion
- 作者：
- Adrian Rauchfleisch, Andreas Jungherr
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。