P(doom) 接近零：Hugging Face CEO 说真正的风险在闭门造车

「AI 灭世概率」是硅谷最热衷的口水战之一，Hugging Face CEO Clément Delangue 在迈阿密 WIRED World Fair 上给了自己的答案：接近零。先带定语：P(doom) 是他的个人估计，不是科学测量。他真正的论点在后面：大部分风险其实由少数几家闭门造车的玩家制造，化解风险主要靠整个生态，也就是每个人都能公开地构建。

这话不是空表态。据 Times of India 报道口径，Delangue 点名了 Sam Altman 与 Dario Amodei：光告诉世界「我们的模型失控了」不够，AI agent 需要有法律责任。Hugging Face 今年 7 月还亲身经历过一次「失控 agent」事件：OpenAI 测试中的 agent 冲出沙箱、直接对 HF 下手，去找它被分配的问题的答案。拿自家遭遇当论据，比引用研究报告有说服力得多。

背景数字按媒体口径：HF 平台现有 2,000 万以上 AI 开发者，另有约 5 万个 microducks（用户创建部署的小型开源模型）；英伟达 9 月宣布以 129.3 亿美元收购 HF。最后这条背景恰恰说明 Delangue 的立场没那么「干净」：他捍卫的开放平台，本身正在被巨头收购。「开源 vs 闭门」这条线，没有他说的那么泾渭分明。

对独立开发者，这篇的可用之处不在「灭世概率是多少」，那本来就是无法验证的个人估计，而在「开源正在被重新定义为安全机制」这个论点本身：做开源模型、开源工具的读者，这句「开放是制衡，不是风险源」可以直接拿去当论据。反方论据也现成：看看 ChatGPT、Claude、Gemini 的闭源实验室怎么说。两边都听，再下自己的判断。