美国时间16日,OpenAI CEO Sam Altman 在美国参议院就AI技术的潜在危险作证,恳求立法者对AI进行监管,并给出了以下建议:
-
成立一个新的政府机构,负责为大型AI模型颁发许可,撤销不符合标准的模型的许可。而对于能力远达不到最先进的大型模型的技术,他认为不需要使用这种许可监管制度。国会可以「定义能力阈值」,免除小型公司和研究人员可能遇到的监管负担,鼓励创新。
-
为 AI 模型创建一套安全标准,包括对其危险能力的评估。例如,模型必须通过安全测试,比如它们是否可以「自我复制」和「流出到监管之外」。
-
要求独立专家对模型在各种指标上的表现进行独立审计。
在国会上,他再次保证未来6个月没有训练 GPT-5 的计划,并确认自己持有零 OpenAI 股权,所作出于热爱。当参议员邀请他在未来国会创建的监管机构工作时,Altman 说对自己目前的工作感到满意,不过他很愿意提供一个名单供国会挑选。
Altman 还谈到了由AI所带来的不平等问题,尤其是在就业市场上。他认为监管机构应该确保AI技术的发展是为了全社会的利益,而不是为了少数人的利益,这可以通过设置数据隐私和建立透明度来实现。
在他的证言结束时,他呼吁国会制定相关的立法,用于监管AI的发展,从而确保AI技术能够创造更大的社会利益,而不仅仅是创造更多的财富。