欧洲议会周三投票通过了 AI Act 草案，料将打响西方世界全面监管 AI 领域的第一枪。起草的规定包括禁止在公共场所进行实时、远程生物识别监控，并禁止在开发面部识别数据库时采集监控录像或抓取互联网信息。欧洲议会的法案版本还寻求禁止所谓的预测性警务系统，此类系统分析先前的犯罪行为和其它数据，并试图预测未来的非法活动。这项立法草案旨在规范企业如何使用大数据训练 AI 模型，在某些情况下将要求企业在使用 AI 生成内容时予以披露。企业还需要在设计 AI 模式时设法防止非法内容的生成，并需要披露模型训练中使用的有版权数据的摘要。在某些违规情况下，企业将被处以最高相当于其全球收入 6% 或 7% 的罚款。
该立法草案还要求企业为自己的 AI 系统之外设置人类监督程序，并明确规定了 AI 决策的透明度要求。在某些重要领域，如医疗保健、交通运输和金融服务，AI 决策必须接受人类监督，以保证公正性和可信度。另外，AI 系统必须有可追溯性，即可追踪其生成和使用的所有数据。草案还禁止创造“可欺骗的人工智能”，也就是说，这些系统不能故意诱导其用户产生虚假信念或行为。
这项立法草案将向欧盟成员国的企业和政府机构发出强烈信号，要求他们在使用 AI 技术时采取更加透明和负责任的方式。该立法草案还将向全球企业发出信号，表明欧盟将坚定不移地推进 AI 监管，以确保 AI 的使用始终符合公共利益和价值观。该法案仍需成员国和欧洲议会的正式批准，预计将于 2022 年生效。