真正可能出现的“超级智能ASI”,未必是一台突然觉醒的超级AI,而可能是由无数普通AI代理、模型、API和自动化系统相互连接之后,涌现出的一个分布式“智能生态”。它没有名字、没有中心、没有单一服务器,因此也可能比传统AGI更难识别、更难控制。
我们可能一直在用错误的形状寻找AGI。我们期待的是一个“神”——有名字、有意识、有目标、有服务器的超级AI。真正出现的东西可能更像生态系统、蚁群、市场、城市或者天气系统:没有任何一个组成部分理解整体,但整体却逐渐表现出稳定的方向、偏好和能力。今天很多AI安全政策、对齐技术和治理框架,主要针对的是单模型风险;但如果未来的智能来自大规模AI之间的交互、复制、竞争和协作,那么真正需要研究的可能不是“哪个模型会成为AGI”,而是:当数十亿甚至数万亿个AI代理彼此连接以后,整个网络会变成什么?