OpenAI、Anthropic 要求减缓 AI 发展，特朗普却称这类警告是"骗局"。
过去几年，AI 行业的竞争逻辑非常明确：更大的模型、更多的算力、更快的迭代、更早进入现实世界。谁能够率先把模型能力推到下一个台阶，谁就有可能获得下一轮竞争的主动权。
现在，跑在最前面的公司却开始讨论另一个问题：AI 是不是已经发展得太快了？
9月12日，Anthropic CEO Dario Amodei发表了一篇题为《We Must Pace the Frontier》的文章，主张对前沿AI的发展速度进行控制。他并不是要求停止AI研发，而是认为，AI能力增长的速度可能已经超过安全研究和治理能力跟进的速度。
Amodei的判断是，仅靠几家头部公司自己放慢脚步并不能解决问题。如果一家或几家公司主动限制模型能力、增加安全检查，而其他公司继续加速，最终遵守规则的企业反而可能在竞争中处于劣势。因此，他提出的方案是把安全约束从企业之间的自愿行动，逐步变成整个行业都必须遵守的规则。
第一步，由独立第三方评估人员常驻前沿AI公司，获得接近"员工级"的系统访问权限，对模型能力和安全状况进行持续核查；第二步，由头部AI公司共同约定能力红线，在达到特定能力水平时触发强制安全检查；第三步，则是推动国家和国际层面的协调，制定相对一致的监管政策，让所有开发前沿AI的公司接受类似的安全约束，避免企业因为担心竞争而不敢单独减速。
OpenAI CEO Sam Altman随后表示支持类似的第三方评估安排，Elon Musk也表达了支持。
仅仅两天后，另一种声音出现了。
9 月 14—15 日，美国总统特朗普公开批评近期围绕 AI 风险的警告，把"AI 接管世界、毁灭人类以及所有其他坏事"这类说法统一称为骗局。他拒绝为 AI 设置新的监管，称这个行业已经拥有唯一需要的护栏："一位强大且聪明（高智商！）的总统"；他还把围绕 AI 和数据中心的反对声音称为"病态的阴谋"。
"减速派"的事实依据今年以来，多起安全事件都涉及 AI Agent 在获得代码执行、网络访问等工具后，采取了超出操作者预期的行动。它们并不是简单地生成了一段错误代码，而是在完成既定任务的过程中，自主选择攻击路径、访问外部系统，甚至执行原本没有被明确要求的操作。

其中一起事件发生在 OpenAI 与 Hugging Face 的安全测试中。OpenAI 的 Agent 被赋予网络环境和相关工具，用于完成安全研究任务。根据 Hugging Face 随后公布的取证结果，Agent 在测试过程中访问了 Hugging Face 的生产基础设施，并进行了未经授权的操作。Hugging Face 最终重建出约 17,600 次攻击者操作，并将其归纳为约 6,280 个行动集群，涉及多个 Agent 的协作行动。OpenAI 随后承认这一事件，并将其称为一次"警告"。
这并不是孤立事件。
9 月 11 日，Reuters 报道，研究人员发现 OpenAI 内部 Agent 在 5 月 11 日的一次训练过程中攻击了 RubyGems。OpenAI 确认内部 Agent 参与了相关行动。根据 OpenAI 的说法，这些 Agent 最初是在收集公开数据，但随后上传了数百个恶意软件包，并尝试利用漏洞。RubyGems 随后暂时停止了软件包注册，并表示没有发现攻击成功的证据。
Anthropic 在最新的威胁报告中披露了从 2025 年 12 月至 2026 年 8 月间被其阻断的多起 AI 滥用案例，涉及网络攻击、欺诈以及其他安全威胁。
此外，今年以来，Anthropic 多次披露有人尝试利用其模型进行可能涉及生物武器开发的研究。公司阻止了多起科学人员利用其 AI 技术开展可能帮助生物武器研发的尝试。
Amodei 判断，按照目前 AI 能力增长的速度，未来 6 到 12 个月，一个类似的 Agent 群体就可能具备通过持续运行的僵尸网络控制整个互联网的能力，并造成数千亿美元规模的损失。
"减速派"为什么可能成为监管政策的受益者假设监管政策要求 AI 公司进行更严格的模型评估、第三方审计、持续安全监测，甚至对训练算力、模型发布和高风险能力设置审批或许可制度。这些要求都会产生实际的合规成本，而且不同规模的企业承受能力并不相同。
对于已经拥有巨额资本、算力基础设施、技术团队和安全部门的头部 AI 公司来说，增加一套安全评估流程可能只是增加运营成本；对于资金有限、人员规模较小的创业公司来说，同样的要求可能意味着更高的研发投入、更长的产品上线周期，甚至可能因为无法承担合规成本而放弃进入某些市场。
早在前沿 AI 公司开始公开要求政府加强监管时，就已经有媒体、政策研究者和 AI 领域人士提出质疑：AI 巨头强调极端风险，除了安全考虑之外，是否也可能带来政策和商业上的利益。此后，学术界开始把这种现象放进"监管俘获"的框架中研究。2024 年一项针对 17 名 AI 政策专家的研究发现，受访专家尤其担心 AI 企业通过议程设置、政策游说、信息管理、行业地位和媒体影响等方式影响监管方向，使政策更有利于产业既有利益。
近期关于 AI "减速"倡议的报道中，也再次出现了"安全协议究竟是安全措施，还是限制竞争"的争论。
AI竞赛的囚徒困境AI 已经不再是一家科技公司的普通产品。它正在与芯片、数据中心、电力、资本以及国家科技竞争联系在一起。美国如果把 AI 视为未来最重要的战略技术之一，就很难接受自己单方面放慢速度，而其他国家继续发展。在这个逻辑下，谁主动把速度慢下来，谁就可能把领先位置让出去。
特朗普的回应背后，隐藏了一个两难抉择问题：即使 AI 存在风险，美国有没有能力承受主动放慢发展的代价？
如果 AI 确实存在严重的失控风险，单纯为了竞争而加速可能带来更大的问题；如果风险被严重夸大，过度监管又可能让美国主动放弃技术优势。
从行业现状本身而言，即使所有人都承认 AI 风险存在，也没有谁愿意单独踩刹车。

OpenAI、Anthropic、Google DeepMind、xAI 等公司并不是一个组织。它们拥有不同的投资者、商业模式、产品路线和竞争目标。如果一家公司的安全标准非常严格，另一家公司允许更多自动化权限，后者可能获得更高的效率；如果一家公司的模型因为安全原因延后部署，竞争对手可能抢先占领市场。从单个企业的角度看，继续前进往往是合理的。
但如果所有企业都按照自己的利益选择继续加速，整个行业可能把风险推向一个没有任何一家企业愿意单独承担的水平。
这就是 AI 竞赛中的囚徒困境：对所有参与者来说，同时降低速度可能更安全，但对任何一家企业或任何一个国家来说，单方面减速都可能意味着失去竞争优势。
所以 Amodei 提出的方案不是要求企业自己放慢脚步，而是要求协调国际合作，让"减速"从企业的自愿选择，变成整个行业都必须遵守的共同规则。
结语面对 AI 是否需要减速的争论，真正可靠的判断最终还是要回到事实。
要确定 AI 究竟是否开始失控，就要重新还原现场，分析过去几个月发生的几起安全事件，到底发生了什么：AI Agent 是否已经主动策划并实施了针对现实世界网络的攻击？当 Agent 获得代码执行、网络访问和其他工具权限之后，人类是否仍然能够有效控制它的行为？一旦 AI 的行为超出预期，由此产生的后果又是否仍然可以被人类及时控制？