量化不掉分，但 coding agent 的行为全变了

把 coding agent 的模型量化到 4-bit，基准分数不掉，是不是就能放心白嫖一半显存？新研究《Beyond Accuracy: How Quantization Affects Coding Agents》（arXiv 2611.02368）的答案出乎意料：分数确实不掉，但 agent 解题的「方式」整个变了。

实验设定：BF16 对比 4-bit AWQ 与 GPTQ，模型覆盖 Qwen2.5-Coder-Instruct（7B/14B/32B）与 Devstral-Small-2507（24B），在 OJBench 编程题上跑三个随机种子。总体结论（作者口径）：没有任何一个 coding agent 在量化后出现统计显著的精度损失，但最终精度掩盖了行为变化。最扎眼的数字：AWQ 让 Qwen-7B 的「一次解出」从 17 次降到 0 次，而「循环修正后解出」从 10 次涨到 25 次，同一个模型，从一把过变成了全靠返工；Qwen-32B 的全部成功都依赖工具调用，Devstral 则很少发出有效的执行器调用。失败形态也各走各路：Qwen-32B 的编译错误远多于小模型，量化后还略升；Devstral 的失败从运行时错误大幅转向错误答案与超时。

对在本地跑量化 coding 模型的读者，行动建议很具体：换 4-bit 之前，先看轨迹、工具调用率与失败形态，不只看 benchmark 分数；如果实际使用高度依赖「一把过」（CI 流水线、批处理），量化模型的隐性成本可能远超显存节省。

边界照作者口径：实验覆盖 4 个模型与 OJBench 一个基准、三个种子，「不掉分」不是量化无损的通论。有趣的是，X 帖称该文已被 NeurIPS 2026 SLM-Agents workshop 接收（以帖子口径为准）。这篇与此前写的 vLLM 裁剪 K3.1 Pro 正好是一对：那篇问「塞不塞得下」，这篇问「塞下之后行为变了什么」。