AI 洗白現象:虛高的預期表現與實際互動結果之落差研究
arXiv - Human-Computer InteractionNick von Felten, Luisa Ella M\"uller, Johannes Sch\"oning
研究發現「AI 洗白」行銷雖能顯著提升使用者對效能的預期,卻無法改善實際的互動表現或主觀體驗。
AI 幫你先抓重點
AI 重點 1
揭露「AI 洗白(AI Washing)」對使用者心理預期的操縱作用。
滑鼠懸停看 AI 判斷理由
這項發現提醒開發者與研究者,過度誇大技術能力會造成認知落差,這種心理預期與實際能力的脫節,可能導致使用者對技術的信任度在長期使用後崩潰。
AI 重點 2
建立以 Fitts' Law 作為審核 AI 標籤設備的嚴謹方法論。
滑鼠懸停看 AI 判斷理由
這為硬體與軟體產品的透明度審計提供了科學標準,讓研究者能透過客觀的運動控制指標,來驗證產品宣稱的 AI 功能是否真的具備實質效能。
核心研究發現
- 1
在安慰劑實驗中,當使用者被告知滑鼠具備預測性 AI 或生物訊號增強功能時,其表現預期顯著高於無 AI 支援的基準組。
- 2
儘管預期大幅提升,但實驗數據顯示,AI 標籤並未在實際的 Fitts' Law 任務表現(客觀指標)上產生任何顯著差異。
- 3
使用者在主觀評估上的工作負荷感與可用性感知,在不同 AI 標籤條件下亦未出現實質性的改善。
對教育工作者的啟發
對於教育科技開發者而言,應避免在教學工具中使用「AI 輔助」等模糊且誇大的行銷術語。若產品缺乏實質的 AI 演算法支持,僅僅是為了增加產品吸引力而貼上 AI 標籤,不僅無法提升學生的學習成效,反而可能因預期落差導致學習者對該工具的信任度下降。在設計數位學習環境時,應優先確保技術功能的透明度,並使用客觀的效能指標(如反應時間、準確度)來驗證 AI 功能是否真能減輕學生的認知負荷或提升學習效率。
原始文獻資訊
- 英文標題:
- AI Washing Inflates Expected Performance but Not Interaction Outcomes: An AI Placebo Study Using Fitts' Law
- 作者:
- Nick von Felten, Luisa Ella M\"uller, Johannes Sch\"oning
- 來源:
- arXiv - Human-Computer Interaction
- AI 摘要模型:
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要,零時間壓力掌握學術前沿。