ByteNoteByteNote
真正的 Computer Use,从来不该是"马拉火车"

字节笔记本

2026年9月24日 · 约 2 分钟读完

真正的 Computer Use,从来不该是"马拉火车"

API中转
¥120

最近总能刷到 GPT-6 操纵 Blender、操纵 Figma 的演示案例。说实话,我看着这些视频,脑子里冒出来的第一反应是,这不就是当年慈禧太后用马拉火车吗。

1881 年,唐胥铁路建成,是中国第一条实际运营的铁路。蒸汽机车一响,守旧官员就急了,说震动皇陵风水,喷烟冒火有伤地脉。慈禧太后一道懿旨,机车拆了,车厢照旧跑,前面改套上骡马来拉。

铁轨还是那条铁轨,车厢还是那节车厢,动力方式却退回了几千年前的老办法。技术的壳换了,内核死死焊在旧秩序里,没人敢把权力真正交给那个看不见摸不着的引擎。

Blender(图:blender.org)

现在很多 Computer Use 产品,本质上也是这套"骡马拉火车"的逻辑。给 Agent 一双眼睛截图,再给它一只手模拟点击、拖拽、输入。看着像是在"用电脑",其实是在用最笨拙的方式模仿人类的操作路径,而不是真正打通系统。

Blender 有完整的 Python API,Figma 有成熟的插件和 REST 接口,结果 Agent 却要靠猜按钮位置、猜坐标对不对、点了有没有生效,一次次试错。这不是 Computer Use,这是计算机版的摸着石头过河。

我理解这套方式的价值,兼容性好,不需要软件厂商配合,几乎什么应用都能塞进这套框架里跑起来。但脆弱也是真的,界面一变识别就崩,效率天花板明显,走不远。

真正的 Computer Use,应该发生在系统级。不是靠眼睛看屏幕再猜坐标,而是 Agent 直接理解应用暴露出来的结构化状态,调用原生接口完成操作,像操作系统内部组件之间通信那样自然。

未来的系统,或许该主动向 Agent 开放一层语义化的能力接口,不管是 accessibility tree、协议化的 API,还是类似 MCP 这样的统一协议,核心都是让 Agent 用"骨骼和血管"去操作,而不是用"眼睛和手"去模仿。

穷则变,变则通,通则久。铁路终究拆掉了骡马,换回了机车。Computer Use 也终将走出这场漫长的模仿秀。

相关文章

分享: