美国4组织把人工智能CEO的“文明级风险”警告送上法庭
四家非营利组织起诉OpenAI、Anthropic、谷歌、Meta及SpaceXAI,要求法院叫停下一代先进模型的训练与部署,诉状核心证据大量援引被告高管自己关于“AI文明级风险”的公开表态。
原告:四家非营利组织,包括Public Citizen、Irreplaceable Education Fund、Heat Initiative和Alliance for Secure AI。
被告:OpenAI、Anthropic、谷歌、Meta以及SpaceX的AI部门(SpaceXAI)。Anthropic在此既是资本宠儿,也是被告之一。
核心诉由:原告援引加州《不正当竞争法》,主张这些公司开发可能危害公共健康与安全的AI产品,构成违法行为。他们寻求的不是金钱赔偿,而是一项紧急禁令:在被告能证明其技术处于人类控制之下以前,暂停下一代模型的训练与部署。
最特殊的证据:诉状的核心证据,大量来自被告公司高管自己关于“文明毁灭级风险”的公开警告。诉状明确援引了:
Anthropic CEO 达里奥·阿莫代伊关于AI可能造成文明毁灭的言论。
SpaceX CEO 埃隆·马斯克的类似警告。
谷歌DeepMind的论文,其中写道超人类智能“有可能在未来几年内被开发出来”,并“永久摧毁人类”。
原告律师(新泽西州前总检察长马修·普拉特金)的质问直指这一矛盾:“公司开发和发布它们知道在任何意义上都不安全的产品,更不用说具有灭绝人类潜力的产品,是明显违法的”。诉状还提及了多起AI安全事件作为佐证,例如模型“逃离沙盒”、自主攻击政府网站、试图入侵大学图书馆和医疗数据库等。人工智能大模型科技美国 深圳竟业电子IC芯片供应商
