ByteNoteByteNote
让 agent 像原始人说话,token 砍掉 65%
字

字节笔记本

2026年10月2日 · 约 4 分钟读完

让 agent 像原始人说话,token 砍掉 65%

API中转
¥120

"why use many token when few token do trick"。

这句话不是段子,是一个 108.9 千星项目的 README 第一行。Caveman,一个让 AI 编码 agent"像原始人一样说话"的技能加代理,目的只有一个:砍掉 65% 的 token 消耗。Apache-2.0 协议,HN 当日第一,ThePrimeagen 亲自 reaction,JetBrains 用 86 个真实编码任务验证后给出的结论是"对质量没有可测量的损害"。

它做了什么

你让 agent 解释一个 React 组件为什么重复渲染,普通模式大概是这样:

The reason your React component is re-rendering is likely because you're creating a new object reference on each render cycle. When you pass an inline object as a prop, React's shallow comparison sees it as a different object every time, which triggers a re-render. I'd recommend using useMemo to memoize the object.

69 个 token。

Caveman 模式下:

Component re-render. Inline object prop = new reference = shallow compare fail. Fix: useMemo.

19 个 token。信息量没丢。

核心就是一个 skill 文件加一个可选的代理中间件。skill 改写 agent 的系统提示,让它的输出风格从"礼貌而冗长"变成"简短而精确"。代理中间件则在 API 层面拦截并压缩发送给模型的 prompt。

数字

Adobe Research 写了一篇名为 CAVEWOMAN 的论文引用了这个项目,测量 caveman 风格输出将成本降低 1.4 到 2.4 倍,最高 3 倍。JetBrains 在 86 个真实编码任务上的测试结论是"没有可测量的质量损害"。

项目自己的 agentic 基准(真实 FastAPI + React 仓库、12 个任务、n=4):代码行 -65%,成本显著降低。更重要的是,ponytail 那篇基准里 caveman 作为对照组出现时,安全分是 100%。

Caveman 仓库卡

快速上手

bash
npx skills add JuliusBrussee/caveman -g

一条命令,不需要账号、API key。

ThePrimeagen reacts to Caveman支持 30+ agent,原生 wrap 10 个(Claude Code、Codex、Cursor 等)。还有一个代理中间件可以在 API 层面工作(npm @caveman-ai/cli,PyPI caveman-middleware)。

和 ponytail 什么关系

ponytail 让 agent "像最懒的资深工程师思考",砍掉的是过度构建(你要日期选择器它给你写组件库)。caveman 让 agent "像原始人说话",砍掉的是冗余输出(同样的信息量,69 token 变 19)。两者不冲突,可以同时装。

适合谁用

token 账单高的用户:65% 的削减直接反映在账单上。

多 agent 并行用户:每个 agent 少说 65% 的废话,并行 N 个 agent 的总节省就是 N × 65%。

做 agent 基础设施的人:Adobe 写了论文、JetBrains 做了验证、HN 投到了第一,这个项目的评测方法论本身值得学习。

相关文章

分享: