ByteNoteByteNote
工具调用不打断思考:TAC-CoT 把推理藏进潜空间
字

字节笔记本

2026年11月5日 · 约 1 分钟读完

工具调用不打断思考:TAC-CoT 把推理藏进潜空间

API中转
¥120

显式思维链贵,是每个跑过 agent 的人都摸过的账;隐式思维链省 token,但碰到工具调用就露怯,模型得先把推理「说出口」才能调用工具。韩国数据智能实验室(DISLab)的 TAC-CoT(arXiv 2611.01926,EMNLP 2026 主会长文)在两者之间架了座桥:推理放进潜空间,只有工具调用、工具返回结果和最终答案保留文本 token。

TAC-CoT 论文页面

设计是交织式的:每一步由一个路由器决定是直接回答还是调工具,工具返回的观察结果会回馈到潜空间推理轨迹里继续推。这样一来,agent 不必把每一步推理都用语言复述一遍,调用工具所需的显式通信接口却完整保留。

效果按论文口径:在智能体数学与问答基准上,准确率最高提升 8.8 个百分点;模型前向传播次数最多减少 6.8 倍;单工具与多工具设置下的工具使用质量都有提升。省前向次数这个指标尤其值得注意,它直接对应 agent 场景里「一步一推理」的延迟与成本,砍掉的是推理的「显式表达」,而不是推理本身。

对做 agent 的团队,这篇提供的是一个可叠加的中间层:如果你已经在用显式 CoT,可以把高频、模式化的推理段迁到潜空间,把文本预算留给工具协议和最终交付;如果你在用隐式推理框架,TAC-CoT 证明了工具接口不再是放弃它的理由。推理的表达形式和推理的能力,原来可以分开计价。落地时有两点提醒:其一,潜空间推理的可解释性弱于显式文本,出错时排障要看工具调用序列与返回结果,日志埋点要提前布好;其二,路由器的判定质量直接决定走向,数学这类答案可自动校验的任务是最安全的起点,开放式任务建议先灰度对照。论文作者来自韩国 DISLab,代码与评审细节可从 EMNLP 2026 主会页面顺藤摸瓜。

相关文章

分享: