aiethicsequityedtechdesign

誠實的代價：AI 揭露的公平性研究與研究議程

arXiv - Human-Computer InteractionRunlong Ye, Jessica He, Finola Finn, Angel Hsing-Chi Hwang, Donal Khosrowi, Seyun Kim, Morgan Klaus Scheuerman

本文探討 AI 使用揭露機制可能帶來的權力不對稱、污名化與監控風險，並提出診斷框架與設計建議。

AI 幫你先抓重點

AI 重點 1

警惕「透明度」背後的權力不對稱與污名化風險

滑鼠懸停看 AI 判斷理由
傳統觀點認為揭露 AI 使用是為了建立信任，但忽略了揭露行為可能成為弱勢群體（如依賴輔助工具者）遭受歧視或能力質疑的工具，這挑戰了技術透明度的單一價值觀。
AI 重點 2

從單向揭露轉向情境化的多方問責機制

滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 治理的理解：揭露不應只是標註「使用了 AI」，而應根據教育、職場或政治等不同情境，設計能平衡透明度與保護使用者免受誤解的底層設計。

核心研究發現

  1. 1

    AI 揭露機制雖能提升透明度，但也可能使使用者面臨懷疑、能力懲罰（如績效評估受損）及監控風險。

  2. 2

    研究發現使用輔助工具（如無障礙 AI）的勞動者，其 AI 使用行為可能在績效評估中被視為負面因素。

  3. 3

    透過工作坊產出的原型顯示，揭露應是多方參與的問責過程，而非單向的資訊披露。

  4. 4

    提出「誠實成本堆疊」（Cost-of-Honesty Stack）診斷框架，用以評估不同情境下的揭露風險與設計方向。

對教育工作者的啟發

對於教育工作者與課程設計者，在推動 AI 工具進入教室時，不應僅關注技術的透明度，更需思考「揭露 AI 使用」是否會對學生造成負面標籤（例如：認為使用 AI 輔助寫作的學生能力較差）。建議在設計學習評量或 AI 輔助學習環境時，應建立保護性的揭露規範，確保學生使用無障礙 AI 或學習輔助工具時，其行為被視為學習支持而非能力缺陷，並透過多方參與的機制來定義何謂「合理的 AI 使用」。

原始文獻資訊

英文標題：
Who Bears the Cost of Honesty? A FAccT Workshop Synthesis and Research Agenda for Equitable AI Disclosure
作者：
Runlong Ye, Jessica He, Finola Finn, Angel Hsing-Chi Hwang, Donal Khosrowi, Seyun Kim, Morgan Klaus Scheuerman
來源：
arXiv - Human-Computer Interaction
AI 摘要模型：
/models/gemma-4-26B-A4B-it
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。