探討 AI 隱私遮蔽在 AI 中介互動中的解釋風格、情境與信任之交互作用
arXiv - Human-Computer InteractionRoshni Kaushik, Maarten Sap, Koichi Onoue
研究發現提供不同細節程度的解釋能提升使用者對 AI 隱私遮蔽行為的信任，且其效果受遮蔽程度與個人特質影響。
AI 幫你先抓重點
AI 重點 1
解釋的「適度性」與「情境感知」是建立信任的關鍵。
滑鼠懸停看 AI 判斷理由
這項發現挑戰了「透明度越高越好」的直覺。研究指出解釋的價值取決於遮蔽行為的強度，這意味著設計者不應提供單一模式的解釋，而應根據 AI 介入的程度動態調整透明度，以避免資訊過載或信任不足。
AI 重點 2
使用者特質（如年齡與 AI 素養）是影響 AI 信任度的重要變數。
滑鼠懸停看 AI 判斷理由
這提醒開發者在設計 AI 中介工具時，必須考慮使用者的背景差異。單一的互動邏輯無法滿足所有族群，開發具備適應性（Adaptive）的解釋機制，對於提升不同數位素養族群的信任感至關重要。
核心研究發現
- 1
研究結果顯示，當系統提供解釋說明時，參與者認為系統在保護隱私方面的有效性顯著更高（p<0.05）。
- 2
情境因素會影響解釋的價值：當系統進行大規模的內容遮蔽時，使用者會更依賴並認為解釋內容更有幫助。
- 3
使用者的解釋偏好存在個人差異，年齡以及對 AI 的基礎熟悉程度都會影響其對系統的信任感。
對教育工作者的啟發
在設計教育科技工具（如 AI 助教或自動評分系統）時，若 AI 需要隱藏或修改學生的敏感資訊（如姓名、成績或私密對話），不應僅僅執行動作，而應提供「為什麼這樣做」的解釋。此外，設計者應考慮到學生或教師的數位素養差異，針對不同背景的使用者提供不同層次的解釋，並在 AI 進行大幅度內容調整時，強化解釋的透明度，以建立穩固的教學信任關係。
原始文獻資訊
- 英文標題：
- Exploring the Interaction of Explanation Styles, Context, and Trust of AI Privacy Redaction in AI-mediated Interactions
- 作者：
- Roshni Kaushik, Maarten Sap, Koichi Onoue
- 來源：
- arXiv - Human-Computer Interaction
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。