
字节笔记本
2026年10月5日 · 约 2 分钟读完
决策模型下凡:llama.cpp 加端点,Perplexity 入场
站内写过 Cloudflare 的 Clef 三件套,也写过 Jev 评估与模拟的分工边界。过去一周这个品类发生了一轮集体跃迁:决策模型从论文与单一厂商的尝试,变成了有标准端点、有开放权重、有多家大厂入场的生态位。Latent Space 十月三日的 AI News 周报把这轮变化梳理得相当完整,本文按一手信息交叉核实后整理。

运行时层:端点标准化,本地可跑
最有信号量的一步来自 llama.cpp:新增了 Jev 兼容的 /v1/systemone 端点,本地推理栈从此原生支持决策模型,llama serve 一条命令起服务。开放权重侧,Kev 家族四个决策模型提供了 GGUF 量化版,其中 Kev-4B 可以在 CPU 上跑;另有 MIT 协议的 1B 级 yes/no 模型以 q4_k_m GGUF 形式发布,路由器与 API 网关项目也在陆续适配同一端点。标准端点加开放权重,意味着任何人在笔记本上就能搭一条决策链路。
模型层:多方入场与一句冷水

厂商侧动作密集。Cloudflare 的 Clef 与 clef-flash 已经上架 Ollama,本地党可以直接拉;Perplexity 发布了 pplx-decider-v1-27b,官方称十一个基准平均 85.7%。冷水也值得一并记录:有社区声音认为这个品类只是零样本分类器换了名字。这个质疑站内读者应该不陌生,Jev 分工线论文的结论恰好是回答,评估类任务它很强,模拟类任务它不行,定位放对就有价值。
为什么是现在
把三件事放在一起看脉络就清楚了:端点标准化解决接入成本,开放权重解决信任与成本,大厂入场解决合法性叙事。这与站内 harness 系列的证据链互相印证,agent 栈里廉价高频的判断环节正在被一个专门品类接管。对工程侧的建议也简单:用 systemone 端点包一层抽象,先在低风险的路由与分流场景试起来,模型可换,端点留下。



