CLI-Anything:面向代理原生電腦使用

arXiv - Human-Computer InteractionYuhao Yang, Tianyu Fan, Chao Huang

提出將應用轉為命令列介面,讓大型語言模型直接以結構化指令與程式化控制互動,取代 GUI 代理的脆弱性。

AI 幫你先抓重點

AI 重點 1

代理原生 CLI 介面消除視覺到計算的損失,實現精確且可預測的執行。

滑鼠懸停看 AI 判斷理由
這種設計讓大型語言模型能直接操作結構化資料,避免了像素級誤差與時間延遲,提升可靠性與可擴展性。
AI 重點 2

將互動模式重新設計為 AI 強項,可促使軟體開發者更快整合代理,降低開發成本。

滑鼠懸停看 AI 判斷理由
對於教育科技平台而言,提供可直接呼叫的命令列 API 能讓教師快速搭建 AI 助教或自動化評量工具,提升教學效率與學習成效。

核心研究發現

  1. 1

    GUI 代理因像素級互動、時間依賴與座標操作,易因介面變更失效,表現脆弱。

  2. 2

    CLI-Anything 將現有應用轉為命令列 harness,公開機器可讀協議,保留功能並提供結構化指令介面。

  3. 3

    CLI-Hub 平台實作此願景,提供方法論、架構與基礎設施,促進代理原生電腦使用的普及。

對教育工作者的啟發

對教育工作者而言,CLI 介面可作為 AI 助教或自動化評量的底層 API,教師可透過腳本化流程快速部署。設計課程時,可將命令列任務嵌入學習目標,讓學生在實作中體驗 AI 直接控制的流程,提升對程式邏輯與資料結構的理解。開發者則可利用 CLI-Hub 轉換現有軟體,減少 GUI 代理的開發成本,並確保跨平台一致性與安全性,為學習平台提供可擴充的 AI 服務。

原始文獻資訊

英文標題:
CLI-Anything: Towards Agent-Native Computer Use
作者:
Yuhao Yang, Tianyu Fan, Chao Huang
來源:
arXiv - Human-Computer Interaction
AI 摘要模型:
openai/gpt-oss-20b
閱讀原文

每週精選研究電子報

每週五信箱收到精選 5 篇教育科技重點研究摘要,零時間壓力掌握學術前沿。