好玩的事情来了。
全球两家最牛的 AI 公司,OpenAI 和 Anthropic,在同一周里先后开口,说了同一件事:AI 发展太快了,该踩刹车了,全球得协调,必要时得放缓。
这在 AI 行业,是头一次。
6 月 8 日,OpenAI 的 Sam Altman 和首席研究官 Pachocki 联署了一份战略文件,明确呼吁建立国际组织来协调全球 AI 开发,"在必要时放缓前沿开发,以便社会韧性、安全与对齐研究能跟上步伐"。
就在几天前,Anthropic 的联合创始人 Jack Clark 和研究院负责人 Marina Favaro 发了篇文章,披露了一组数据:
他们超过 80%并入代码库的代码,已经是 Claude 自己写的;工程师每天合并的代码量,是 2024 年的 8 倍。Anthropic 的判断是,AI 递归自我改进这件事,可能在未来两年内发生,甚至更早。
所以,他们说:如果能有效放缓,为社会争取更多时间,这很可能是一件好事。
先说说为什么这个表态这么不寻常。
AI 行业过去几年的主旋律,是谁跑得快谁赢,没有人真的愿意停。
每隔几个月就有新模型,每次发布都是 "史无前例",竞争激烈到连下架旧模型的时间都要精心计算。OpenAI 和 Anthropic 本身就是从同一批人里分裂出来的,互相较劲多年,在这个行业里,慢就是死。
就是这两家公司,突然齐声说:慢一点可能是对的。
你不觉得有点奇怪吗?
当然,批评者一眼就看穿了。
有人在社交媒体上说,Anthropic 的潜台词其实就是 "请让我们领先吧,停止开发"。还有人说,这叫监管俘获,头部公司用渲染风险来构筑竞争壁垒,让监管把后来者和开源模型给卡死,自己坐稳位置。
这个逻辑有没有道理?有。
Anthropic 年化营收今年年底预计从 90 亿美元飙到 500 亿,IPO 文件已经悄悄提交。OpenAI 也不差,业务扩张得飞起。两家公司一边高喊 "刹车",一边踩着油门往钱的方向冲,这个反差确实值得咀嚼。
但我不觉得这个解释就够了。
Anthropic 那篇文章里有个细节,他们自己把减速的困境说得非常坦率,坦率到让人有点意外。
他们说,单方面减速没用。
如果只是让 "最不谨慎的行为者" 在技术上赶上来,最终所有人都更不安全。训练运行比导弹发射井更容易隐藏,秘密违约的激励极大,因为当别人暂停时,继续推进的人可能继承领先地位。
这不是一家公司在给自己留退路,这是在说:我们呼吁的减速,在没有全球协调机制的前提下,本质上是一个无解的问题。
他们把这件事比作军备控制里的可核查性问题,然后补了一句:"建立互信花了数十年,而我们没有那么多时间。"
这句话读完我愣了一下。
因为这其实是在说:我们提出了一个问题,但我们没有答案。
一家估值冲着 IPO 去的公司,在公开文件里写 "我们没有答案",这件事本身就很不商业。
沃顿商学院的 Ethan Mollick 说得也算公允,AI 实验室不是铁板一块,里面既有资本逻辑,也有真心焦虑技术失控的研究人员。这两种人同时存在,说出来的话,就会是这种奇怪的混合物。
既呼吁减速,又无法停下。
既承认问题严重,又坦言解法不在自己手里。
这种矛盾,其实不是 Anthropic 和 OpenAI 的专属困境,是整个行业的处境。
他们描述的那个图景,80%的代码由 AI 写,工程师产出是以前的 4 倍,递归自我改进两年内可能到来,这些数字摆在那里,不管你信不信,这个加速度本身是真实的。
问题是,加速的惯性一旦形成,谁有能力踩刹车?
国家之间没有核查机制,有的话也需要几十年建立互信;商业竞争的激励结构不改,单家公司停下来只是给对手送礼;开源社区的代码满天飞,监管能管住闭源大模型,管不住每一个下载了权重的人。
所以两家公司呼吁的那个 "国际协调组织",如果真的建起来,会是什么样的机构?谁来主导?核查标准谁来制定?中国参与吗?不参与的话,协调的意义在哪?
参与的话,数据和模型架构的透明度问题怎么解决?
这些问题都没有答案,或者说,现在都是开放题。
这件事最耐人寻味的地方,不是他们说了什么,而是这个时间点。
2026 年。
AI 已经在写自己的代码,在优化自己的训练流程。人类工程师的角色,正在从 "写代码的人" 慢慢变成 "审核 AI 写的代码的人"。当人类在这个链条里的参与比例持续下降,那个叫做 "人类监督" 的东西,到底还有多少实质意义?
这个问题没有人回答,因为没有人真的知道答案。
Anthropic 和 OpenAI 选在这个时刻发声,可能有商业算计,可能有真实焦虑,可能两者都有。但有一点我觉得是确定的:他们说出来这件事,总比不说强。
哪怕他们自己也刹不住车。
