AI自我改进，监管要盯住递归闭环
最近关于“AI递归自我改进”的讨论多了起来。这个词听上去像科幻片，其实它指的是一个很现实的工程问题：AI开始参与改进AI自己，从写代码、跑实验、分析结果，一步步进入研发流程。
真正值得警惕的，是研发权、评价权、资源权和部署权可能被同一条模型链路拿到。
Claude写入Anthropic生产系统的合入代码已经超过80%。Google DeepMind的AlphaEvolve也给了一个更具体的例子：它在数据中心调度中平均追回0.7%的算力资源，还让Gemini相关矩阵乘法内核提速23%、训练时间减少1%。
这些数字说明，AI改进AI已经不是纯思想实验。它正在进入代码、算力、芯片和训练流程。
但现阶段公开案例还不是完整RSI。AlphaEvolve依赖人类设定评价函数，Claude写代码也仍要人类决定方向、合并和上线。现在更像“弱递归”：AI能在局部环节加速，却还没有独立完成提出问题、改造系统、评价新版本、继续部署下一代的闭环。
监管如果只盯模型参数、训练算力，可能会漏掉真正的风险。更合理的做法，是把闭环拆开：提出改进的人，不能同时掌握评价标准；执行实验的系统，不能自动扩大算力账户；模型发现新能力，也不能自己批准部署。
这件事的关键，不是把AI当怪物恐吓公众，而是承认它正在从工具变成研发系统的一部分。工具出错，可以补丁修复；系统自己加速，必须先有闸门。
真正成熟的AI监管，应该回答的不是“模型有多聪明”，而是“它能不能在没人批准时继续增强自己”。