虛假的門面：生成式 AI 與職場績效的透明度危機
arXiv - Computers and SocietyTom van Nuenen, Pratik S. Sachdeva, Sahiba Chopra
本文探討生成式 AI 如何導致「努力不透明性」，使可觀察的產出與實際的人類投入脫鉤，進而影響職場信任。
AI 幫你先抓重點
AI 重點 1
從「產出導向」轉向「參與管理」的治理思維
滑鼠懸停看 AI 判斷理由
傳統政策傾向於要求全面揭露 AI 使用，但研究指出透明度是相對的。管理者應學習如何精準定義哪些人類參與（如判斷力、注意力）必須保持可檢視，而非盲目要求所有過程透明。
AI 重點 2
警惕「努力不透明性」對社會信任的侵蝕
滑鼠懸停看 AI 判斷理由
當 AI 模糊了人類投入的痕跡，原本用於建立信任的互動線索會失效。這提醒我們在設計 AI 輔助的工作流時，必須考慮如何保留人類參與的「可見性」，以維持團隊協作的社會基礎。
核心研究發現
- 1
研究識別出五種導致職場不透明的機制：聲音（立場）、來源（歸屬）、脆弱性（不確定性）、注意力（投入程度）與投資（勞動量）。
- 2
專業人士傾向於維護其身分認同機制，卻在反映勞動過程的機制上自由地製造不透明性。
- 3
當生成式 AI 使互動線索失去診斷功能時，會削弱維持協作信任所需的互惠交換機制。
- 4
當前的職場組織以產出為中心，使得交付物已取代了原本應被觀察到的勞動過程。
對教育工作者的啟發
雖然本文聚焦於職場，但對教育設計者有重要啟發：在 AI 普及的學習環境中，僅評估「最終成果」是不夠的。教育者應從「結果導向」轉向「過程導向」，設計能檢視學生「注意力、判斷力與反思過程」的評量機制。例如，在 PBL 專題中，應要求學生記錄 AI 協作的軌跡（Prompt 演進、批判性修改過程），而非僅提交最終報告，以確保學習的真實性與透明度，防止學生在「努力不透明」的狀態下獲得高分。
原始文獻資訊
- 英文標題：
- The Fabricated Front: Generative AI and the Opacity of Workplace Performance
- 作者：
- Tom van Nuenen, Pratik S. Sachdeva, Sahiba Chopra
- 來源：
- arXiv - Computers and Society
- AI 摘要模型：
- /models/gemma-4-26B-A4B-it
每週精選研究電子報
每週五信箱收到精選 5 篇教育科技重點研究摘要，零時間壓力掌握學術前沿。