微软研究院首席研究员 Sébastian Bubeck 是《AGI的火花: GPT-4 的早期实验》论文的第一作者，在MIT的演讲提到了自己测试 GPT-4 (无视觉版) 画画的经历，AI从越来越强到越来越弱:
一个月期间，OpenAI 不断在训练 GPT-4，拥有早期访问权限的 Sébastian Bubeck 每隔一段时间就向 GPT-4 索要一幅独角兽画，以此作为智力的基准，结果发现 GPT-4 的独角兽画一直在进步。但最终，GPT-4 开始接受安全训练时，独角兽画开始退化。
Bubeck认为，这是因为安全训练会在模型中加入随机扰动，这些扰动可能会影响模型的判断力和输出结果，从而导致GPT-4的表现变得更加笨拙。因此，GPT-4的表现变差并不一定是因为部署了更小版本的GPT-4，而更可能是因为安全训练导致的影响。