ByteNoteByteNote
最便宜的智能:OpenAI 把选择题做成一毛钱 API
字

字节笔记本

2026年10月8日 · 约 2 分钟读完

最便宜的智能:OpenAI 把选择题做成一毛钱 API

API中转
¥120

agent 工作流里塞满了小判断:这条工单属于哪类、这个请求该路由给哪个模型、这张图是否违规。过去每种做法不是写规则就是跑一次完整推理,前者脆后者贵。OpenAI 在 DevDay 2026 预览的 Decisions API 近日转入公开测试,思路是把这类选择题单独做成一个又快又便宜的端点:每百万输入 token 0.10 美元,不收输出费用也不收缓存费用,比一次常规补全调用低一个数量级。

Decisions API 封面图解

设计逻辑

官方的设计说明与 DevDay 回顾一致:把模型的智能聚焦到一组用户预先定义的问题与有限选项上,做实时决策。用法上是典型的约束换性能:你给出有限选项集合,它负责快速选中最合适的一个,适合内容分类、请求路由、审核分流这类高频场景。公测版还加了图片输入,截图合规判断、视觉内容归属这类快判也能走同一通道。开发者社区对它讨论热烈, Hacker News 相关讨论已攒下数百点,争论焦点是它与一次带约束提示的普通调用相比边界在哪里、性价比差多少;也有工程师指出这类专用端点把提示工程固化为产品契约,稳定性和可迁移性反而比自维护提示词更可控。这个问题的答案只能各自拿真实负载去测。

三种典型接法

分类是最直接的用法:工单类型、内容标签、违规判定,选项有限且稳定的场景收益最大。路由次之:按语义把请求分给不同下游模型或转人工,省掉一个中间调度模型。视觉快判是新能力:对截图与图形内容做快速的是非或归属判断。要守住它的边界:选项集合必须预先定义且有限,开放生成、多步推理、长链路任务仍应走常规补全或 agent 编排,把它塞进不擅长的场景只会两头不讨好。

三种典型接法

算账视角

这套定价结构值得细看:只收输入不收输出,等于按你送进来的判断材料计费,判断结果本身免费,这对高频小判断场景是量身定制的账本。对做 agent 平台的团队,它提供了一个新的成本分层工具:把每条消息里数十次小判断从推理预算里剥离出来,主模型只处理真正需要生成的部分,整体成本结构会明显改观。迁移路径也简单:先挑一个选项集合稳定的分类场景试点,用真实流量校准精度与延迟,再逐步扩大到路由与视觉快判;灰度期间保留旧链路做对照,测稳了再全量切换。

相关文章

分享: