X 热点第五十三轮:Sutton 说蛮力计算不够、“AI 生成”标签失灵、Copilot 帮做 3D 打印
本轮 4 条(窗口放宽至 37.6 小时):nima_owji 谈 AI 生成标签失灵(19 赞);GitHub 官方分享 Copilot 3D 打印用例;omarsar0 力挺 Sutton 范式之争(204 赞)并谈 agent 工程的接触点与协调。全部人工核验。

发现 AI Agent、开发工具、开源项目与效率软件,跟上每日科技与工程实践。
编辑精选
不量化、不蒸馏、不剪枝,AirLLM 用逐层流式加载把万亿参数模型的推理显存压到个位数 GB;Kimi K3 只需 3.72GB,DeepSeek-V3 约 12GB,还支持 LoRA 训练。Apache 2.0,38.3k 星。

最新精选
本轮 4 条(窗口放宽至 37.6 小时):nima_owji 谈 AI 生成标签失灵(19 赞);GitHub 官方分享 Copilot 3D 打印用例;omarsar0 力挺 Sutton 范式之争(204 赞)并谈 agent 工程的接触点与协调。全部人工核验。

llama-modchip(203 星,很早期):作者称经 SwiGLU-H2 压缩 + Fractal-64 转码 + 推测解码,284B DeepSeek 压到 56.56 GiB 纯 CPU 跑 44.4 tok/s 预填充、9–14.7 tok/s 解码。全部为作者自述;3.75bpw 量化必有损失。

本轮 3 条:thdxr 感慨 AI 降门槛后有人兴奋有人愤怒(350 赞);Nima Owji 不到 4 天用完 Grok Bot 额度(个人遭遇);Rhys Sullivan 吐槽 Apple Intelligence 差到想换 iPhone(个人感受)。全部人工核验。

nightly-labs/openbot(6,316 星):12 种 agent 后端同台的桌面工作区——agent 间消息、共享频道、FIFO 队列、内嵌浏览器与 Computer Use。注意:PolyForm 非商业许可(非 OSI 开源),agent 以 danger-full-access 运行。

Google 10 月 28 日发布 Gemini 4 Carbon:AA Intelligence Index v5.0 第 1(59 分);安全三项基准为官方自测、无护栏下测得;先给网络防御者与 Fairwind 伙伴,开发者与企业暂不可用。首发价 $2/$10。

LoreKit 开发者的倡议稿:一台机器四种互不相通的 agent 记忆,主张像 OpenTelemetry 那样先统一数据模型、语义约定、协议与一致性测试,存储与界面留给竞争。利益相关:作者本人做记忆工具。

V2EX 网友的发现帖重提老机制:Remote SSH 的 agent 会回连本地前端,可漫游文件系统、改文件、开 PTY、自我持久化。不是漏洞、没有 CVE,官方提示“只连可信主机”;真隔离请用 VM/容器。

本轮 4 条(放宽窗口):Karpathy 用 Claude Code 3 分钟搓出 4.7 万条视频的 TristanTube(6,754 赞);Codex 负责人确认 Pro/Business 100 用量翻倍;Grok Bot 爆料加创建队友按钮;ChatGPT 封号潮汇总(作者口径)。

Mistral Studio 新增托管 agent(公开预览为主):新 Agents SDK 三种跑法——进程内/自托管/托管;崩了从上一调用续跑;敏感工具审批默认等 1 小时。定价与 GA 未公布,私有云排 11 月底。

OpenAI 分享物理世界工程进展:GPT-6 定需求、Astra 出外观/机壳/PCB,两名成员副业不到一周完成设备设计,代工厂一个月小批量;硬件团队 token 用量半年增 23 倍;BenchCAD 2.0 内部新模型 0.875 对 Astra 0.594。

OpenAI 研究《A thousand fewer paths to root》:新 cyber 模型 12 小时产出 2,308 个候选,复现 1,724,去重 948 个本地提权漏洞 + 948 个补丁,端到端约 121 万美元 API 积分;7 月同管道仅 166 个。

苹果官方插件进了 Claude Code 官方插件目录(PR #6338,11 月 6 日合并):作者栏 Apple Inc.;编跑测 scheme、渲染 SwiftUI 预览、驱动模拟器、读构建日志。插件随本机 Xcode 发货,Mac 限定。

project-maya(2,662 星):GLM-5.3-Flash、DeepSeek-V4.1-Flash、MiniMax-M3.1-Flash 三台旗舰 Flash 搬回家跑——专家分级放置 GPU/内存/SSD;用户实测 2×5090+4090 最高 149 tok/s;Maya-S 保真 87.6–99.2%。

Soup(10,295 星):一个 YAML 一条命令微调 LLM,一路到 Ollama;Layer streaming(BETA)在 4GB 笔记本显卡训 8B(LoRA/NF4/batch 1/seq 512,两组速度主频不同不可直接对比)。v0.77.2,159 个 PR。

xerj(18,594 星):Rust 本地搜索引擎 + MCP,索引代码文档日志;新 Query-1 小模型把问题变查事实程序——4 核离线、220ms、自家 160 题测试错 1 题(开发集口径)。引擎开源,模型二进制专有。

OfficeCLI(33,127 星):单二进制、内嵌 .NET、不用装 Office——Word/Excel/PPT 读写改 + HTML 渲染给 agent 一双眼睛 + watch 实时预览 + skill/MCP 三件套。Excel 350+ 函数、PPT morph;“全球首个”是项目口径。
