行走中的ATGC：掌握多少算力和电力不是智力演进的关键. 马斯克和Meta都曾经掌握过天量算力, 中东王爷们掌握最多的能源. 但都没能成事.

智力演进的关键是反馈机制. Hinton推出反向传播之前, 人工智能技术已经停滞了几十年了.Anthropic之所以能在没有顶牛科学家顶牛数据和顶牛算力的情况崛起, 是因为他们当年ChatGPT在问答上太夺目, Anthropic有意无意地避其锋芒, 专注Coding领域. 而Coding领域是少有的, 能给大模型的每个动作带来直接反馈的领域. Coding对于Agent的反馈作用就是Game Changer, 就像反向传递对神经网络一样.

而从任务导向的Agent走向AGI, 还需要更高一层反馈机制. Coding任务完成的好坏是很容易评价与反馈的. AGI的任务是很难评价与反馈的. 生物界是靠生态位的竞争与淘汰来缓慢反馈的, 生物的基因微调式的繁衍是一种很低效的响应机制. 硅基对反馈的响应速度完全是另一个维度的速度. 所以关键还是在于反馈. 可能的方式是, 不同平台的模型, 同一系列模型的不同变体, 在一个有淘汰有反馈的封闭环境里互动竞争, 失败的就淘汰, 其网络结构中的有用的部分被别的模型分而食之. 一个AI竞技园, 唯一能产生AGI的环境. 其他都是人类的幻想, 算力和电力解决不了反馈机制的问题.

Agent时代大模型只进了一步, 就是Read/Write/Bash等工具的调用, 而智能程度就飞升一个台阶了.下一步, 比如大模型可以分析输入和日志, 改用不同的工程参数来自加载, 或进一步, 直接微调网络参数, 启动自己的另一个实例. 这就是AI繁衍了.一切只等一个反馈机制的出现.