CollabSkill:評估真實任務中人機協作能力的框架

arXiv - Computers and SocietyYijia Shao, Zora Zhiruo Wang, Neel Ahuja, Yicheng Wang, Bowen Liu, Diyi Yang

本文提出 CollabSkill 框架,透過貝氏技能評分系統量化評估人類與 AI 在真實職業任務中的協作貢獻。

AI 幫你先抓重點

AI 重點 1

評估標準應從「AI 自主能力」轉向「人機協作效能」

滑鼠懸停看 AI 判斷理由
傳統基準測試僅關注 AI 單打獨鬥的表現,但未來職場的核心在於人機共生。這項研究提醒我們,開發 AI 不應只追求自動化,更應著重於如何增強人類的能力。
AI 重點 2

實作經驗是提升 AI 素養的最有效途徑

滑鼠懸停看 AI 判斷理由
這改變了我們對 AI 教育的認知:單純的理論教學可能不如在真實任務中與 AI 協作來得有效,實務操作能直接轉化為更深層次的數位素養。

核心研究發現

  1. 1

    研究發現 AI 代理的表現排名在 CollabSkill 框架下與現有的全自動基準測試顯著不同,例如 Claude Code 在此框架中排名第一。

  2. 2

    實務經驗是驅動協作能力的主要因素,實際參與協作能顯著提升工作者的 AI 素養。

  3. 3

    透過分析 93 名工作者進行的 386 場工作會議與 1,500 多個提示詞,成功量化了人類與 AI 在經濟價值任務中的技能貢獻。

對教育工作者的啟發

對於課程設計者而言,應從「教 AI 如何運作」轉向「教學生如何與 AI 協作」。建議設計以任務為導向(Task-based)的學習環境,讓學生在解決真實問題的過程中,學習如何精準下達指令、評估 AI 產出並進行批判性修正。此外,評量方式應從單純的知識測驗,轉向評估學生在協作過程中如何有效利用 AI 工具來達成複雜目標的能力。

原始文獻資訊

英文標題:
CollabSkill: Evaluating Human-Agent Collaboration On Real-World Tasks
作者:
Yijia Shao, Zora Zhiruo Wang, Neel Ahuja, Yicheng Wang, Bowen Liu, Diyi Yang
來源:
arXiv - Computers and Society
AI 摘要模型:
/models/gemma-4-26B-A4B-it
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要,零時間壓力掌握學術前沿。