
字节笔记本
2026年9月24日 · 约 2 分钟读完
真正的 Computer Use,从来不该是"马拉火车"
最近总能刷到 GPT-6 操纵 Blender、操纵 Figma 的演示案例。说实话,我看着这些视频,脑子里冒出来的第一反应是,这不就是当年慈禧太后用马拉火车吗。
1881 年,唐胥铁路建成,是中国第一条实际运营的铁路。蒸汽机车一响,守旧官员就急了,说震动皇陵风水,喷烟冒火有伤地脉。慈禧太后一道懿旨,机车拆了,车厢照旧跑,前面改套上骡马来拉。
铁轨还是那条铁轨,车厢还是那节车厢,动力方式却退回了几千年前的老办法。技术的壳换了,内核死死焊在旧秩序里,没人敢把权力真正交给那个看不见摸不着的引擎。

现在很多 Computer Use 产品,本质上也是这套"骡马拉火车"的逻辑。给 Agent 一双眼睛截图,再给它一只手模拟点击、拖拽、输入。看着像是在"用电脑",其实是在用最笨拙的方式模仿人类的操作路径,而不是真正打通系统。
Blender 有完整的 Python API,Figma 有成熟的插件和 REST 接口,结果 Agent 却要靠猜按钮位置、猜坐标对不对、点了有没有生效,一次次试错。这不是 Computer Use,这是计算机版的摸着石头过河。
我理解这套方式的价值,兼容性好,不需要软件厂商配合,几乎什么应用都能塞进这套框架里跑起来。但脆弱也是真的,界面一变识别就崩,效率天花板明显,走不远。
真正的 Computer Use,应该发生在系统级。不是靠眼睛看屏幕再猜坐标,而是 Agent 直接理解应用暴露出来的结构化状态,调用原生接口完成操作,像操作系统内部组件之间通信那样自然。
未来的系统,或许该主动向 Agent 开放一层语义化的能力接口,不管是 accessibility tree、协议化的 API,还是类似 MCP 这样的统一协议,核心都是让 Agent 用"骨骼和血管"去操作,而不是用"眼睛和手"去模仿。
穷则变,变则通,通则久。铁路终究拆掉了骡马,换回了机车。Computer Use 也终将走出这场漫长的模仿秀。


