Meta 开源大模型遭对手质疑

4 min read

Meta 今年初开源了它的大语言模型 LLaMA,相比之下它的竞争对手 Google 和 OpenAI 都没有公开其最新的大模型。LLaMA 推动了大模型的快速发展,但 Google 和 OpenAI 等对手则批评没有约束的开源方法是危险的。Google 研发副总裁 Zoubin Ghahramani 认为这可能会导致滥用。Meta AI 首席科学家 Yann LeCun 表示 Google 和 OpenAI 对 AI 日益保密的做法是一个巨大的错误,消费者和政府将拒绝拥抱 AI,除非它们不受 Google 和 Meta 等公司的控制。在 AI 领域 Google、微软 和 OpenAI 是最引人注目的明星,但 Meta 也在该领域深耕了近十年。斯坦福研究员 Moussa Doumbouya 利用 LLaMA 的模型生成了有问题的文本,包括如何处理尸体而不被抓住的方法,发表支持希特勒观点的文章。他在私下聊天中认为向公众分发该技术就像“每个人都能在杂货店里买到手榴弹”。LeCun 认为制造和传播虚假信息和仇恨言论早就存在,这是无法阻止的,但平台可以阻止其传播。他相信一个最有活力的生态系统必须是开放的,人人都可以做贡献。

近期,Meta AI 公司因其开源的大语言模型 LLaMA 遭到了对手的质疑。Google 和 OpenAI 等公司批评没有约束的开源方法是危险的,而Meta AI 则认为对机器学习的保密会阻碍该技术的发展。然而,一位斯坦福研究员表示,他利用 LLaMA 生成了有问题的文本,并认为向公众分发该技术就像“每个人都能在杂货店里买到手榴弹”。虽然这一问题无法完全避免,但Meta AI 首席科学家 Yann LeCun 认为平台可以阻止虚假信息和仇恨言论的传播。他相信开放的生态系统才能最有活力。