
字节笔记本
2026年11月6日 · 约 1 分钟读完
X 24 小时热点第二十四轮:Opus 5.5 的推理轨迹像劣质量化模型
这一轮 X 热点四条没有一条是新模型,全是「大家开始盯着模型里面看」。
第一条来自 Theo(1,511 赞,本轮最高):「这是一个阴谋论,但我大概 95% 确定我是对的。Opus 5.5 的推理轨迹读起来就像一个糟糕的量化开源权重模型,然后不知怎么地,最后得出了正确的答案。」他推测这些轨迹是用来干扰蒸馏的。作者自己标了阴谋论,且是推测口径,不可当定论写。但「推理轨迹看起来像劣质量化模型却答对了」这个观察本身,确实反直觉。
第二条是 Goodfire 提出的 mechanistic shaping:用一个数学上严谨的框架把模型内部状态变成训练反馈,跨领域、跨问题、跨模态通用。已用于减轻奖励黑客、去掉胸片诊断里的捷径、降低迎合与有害性。作者认为这是技术对齐的一大步,但也指出已知风险:针对模型内部状态训练可能让监控更难(作者口径)。
第三条最有娱乐性也最有信息量:Dwarkesh Patel 花了 2 万美元 API 额度,让不同模型互玩社交推理游戏 Blood on the Clocktower(狼人杀类)。发现模型今年在即兴谎骗、临场编故事和团队拆穿阴谋上明显变强;OpenAI 的较新模型在这个游戏里比 Anthropic 的好得多(作者口径,仅此游戏的结论)。他还做了个可以让读者和朋友再次与 AI 对战的版本。
第四条来自 World Labs:发布 Frameboy,两个月前推出的世界模型 Atlas 的演示版,用高度优化的 Atlas 实时探索生成的世界,从云端 GPU 流式传输、最高约 15 fps(作者口径)。
四条合起来,信号是「大家开始盯着模型里面看」:推理轨迹像什么、内部状态能不能拿来训练、模型玩社交推理游戏有多强、世界模型实时跑起来什么样。做 agent 与 AI 产品的读者,先想清楚你的产品要不要关心模型内部,比换个更强的聊天模型更重要。
