造 AI 的人，快要跟不上 AI 的速度

Anthropic 更新了上市招股文件，透露了一件让人吃惊的事：AI 自己推动自己迭代的循环已经跑起来了，研发人员常常反应滞后。

他们实验室已经遇到过：AI 研发突然提速，人类很久之后才发现。按照内部标准，一旦跨过临界点，AI 一年就能做完原本两年的研发工作。模型强弱没法实时看明白，要用上几个月才能测出真实水平，等发现不对劲的时候，它可能已经在写下一代 AI 的代码了。

数据很直观：到 9 月，公司九成以上代码都是 Claude 写的；工程师日均产出代码量，达到 2024 年平均水平的 45 倍。今年 1 到 9 月，内部调用它的成本涨了 250 倍，4 月开始，这笔开销已经超过所有人当月工资。

哪怕 AI 写代码效率极高，这家公司也定下规矩：绝不允许它脱离人的管控，独自开发新一代前沿模型。

我们总觉得人类攥着 AI 的控制权，可顶尖研究者都没法实时摸清它的进展。AI 跑得越来越快，人类能不能稳稳管住它，成了一道现实难题。