特朗普总统刚刚发布了《白宫关于超级人工智能的协议》,这份协议今天由埃隆·马斯克、黄仁勋、桑达尔·皮查伊、达里奥·阿莫迪、马克·扎克伯格和格雷格·布罗克曼签署。
为了为美国人民和世界构建一个积极的未来,我们认为,每家公司都有责任以安全的方式开发自己的技术,并以一种能够赢得客户和公众信任的方式进行。
这首先需要每个公司在训练和部署前沿模型时,都应建立健全的内部流程和控制机制,以确保其技术按预期运行,并且能够及时发现和解决任何问题。
因此,除了采取其他预防措施外,我们认为每家公司都应实施以下四个层级的控制和审计。
1. 监控模型的能力和一致性,并阻止未经授权的系统访问。
2. 赋予内部团队权力,以检查各项控制措施是否有效,并解决存在的问题。
3. 聘请独立的外部审计师来核实各项控制措施。
4. 设立一个独立的董事会委员会,负责监督所有事务,并确保问题得到解决。
目标是让所有这些事情都能在自律的前提下自发地发生,而不是由政府仓促地制定法律。