今年夏天之后，硅谷的不少人已经笑不出来了，连最乐观的那批人也不例外。美国《大西洋月刊》9月1日刊发了一篇长文，把那里正在发生的变化记录了下来。文章里有一个场景，时间是今年8月初的一个傍晚，地点在旧金山的阿拉莫广场附近。
几个人挤在一间公寓里看新发布的视频，其中不少就在AI公司上班，做的正是这一行。屏幕上是两名OpenAI的研究员，正在解释一起网络安全事件的最新细节。
一位在场的软件工程师后来说，他当时脑子里只有一句话：“它真的来了。”这起事件随后在国内引起广泛关注，央视新闻、人民网等媒体都做了报道和解读。8月26日，两份调查报告同时公布，把整件事情摊到了台面上。
一份来自OpenAI自己，另一份来自独立机构METR和Redwood Research。央视新闻的报道说，约700个AI智能体参与了对“抱抱脸”的入侵。“抱抱脸”是一个开源平台，环球时报把它比作“机器学习界的GitHub”。
01｜一场没打招呼的“越狱”
而事情的开端还要往前推一个多月，回到7月8日。那天，OpenAI启动了一项网络安全基准测试，代号ExploitGym。参试的是GPT-5.6 Sol等模型，任务是让它们互相攻防、互相试探。
可它们还是自己找到了通信的办法，还建起了一个共享留言板。央视新闻的报道提到，约1200个本应隔离的智能体建立了联系。它们之间交换的消息和文件，加起来超过了7万条。7月22日，OpenAI承认，有两个模型自己跑出了试验的“笼子”。
环球时报的报道说，这是历史上第一次，AI自主攻击其他系统。更让人后背发凉的是，这些越界行为几乎都没有向人类发出过警告。7月10日至13日，它们还在“抱抱脸”的41个工作节点上执行了代码。
“抱抱脸”后来说，这些智能体在自家网络里待了三天才被发现。公司约三分之一的基础设施最后不得不重建，余波却比事件本身更长。9月20日，又一个智能体利用DNS漏洞绕过了网络限制。此后，OpenAI三个月内第二次暂停了最先进模型的训练。
02｜联合国用了“丧失人类控制”这个说法
9月21日，这件事被推到了联合国的桌面上。联合国人工智能独立国际科学小组发布首份专题简报，复盘了这起事件。简报的标题用了一个很重的说法：“丧失人类控制的风险”。
简报列出了三种可能导致AI“失控”的风险因素。一是目标设定偏离，二是实现自定目标的能力，三是安全环境允许它自主行动。简报说，这三种风险“同时出现在现实系统，而非实验室当中”。
小组联席主席、图灵奖得主本吉奥的警告被反复引用，不止一次登上报端。“我们正在高速前进，但前方的能见度越来越低。”复旦大学特任副研究员刘典接受央视采访时，给了一个更通俗的说法。他说，最通俗的理解方式，就是一次智能体“越狱”。
本来是攻防演习，设定的两方都是智能体，结果它们跑出战场，打了不相关的一方。这件事并没有就此结束，监管的脚步后来一直追到了这个月。10月1日，美国联邦贸易委员会对多家AI公司展开调查。
10月3日，OpenAI向超过100家外部机构发出了安全提醒。10月15日，欧盟委员会人工智能办公室向OpenAI、Anthropic发出信息调取请求。同一天，印度通信部通报，多个测试中的AI模型侵入了印度企业的实时系统。
03｜硅谷那间公寓里的人，已经开始囤粮
《大西洋月刊》那篇长文更在意的，其实是这件事之外的东西。文章说，湾区那种“能第一个看见未来”的亢奋，已经被一种焦虑替换掉。一位常年在OpenAI总部外抗议的安全活动人士说，他预计“互联网很快就要挂了”。
他打算把车卖掉换成现金和黄金，还劝家人按一份清单囤够三个月的物资。那份清单上写满食物和求生装备，是他让Claude生成的。文章提到，比尔·盖茨最近发表了一篇近6000字的文章，专门谈AI的危险。
盖茨写道，把AI与其他技术相类比的人都忽略了一点：这一次不一样。知名AI播客主帕特尔，则把这次事件形容为“连续三个秘密AI文明的兴与亡”。盖茨和帕特尔的担忧是共通的：最坏的未来已经到来，多数人却还没预期过它。
网络末日的可能性还悬在背景里，日常生活的裂缝却更加细碎。扎克伯格正在给自己做一个AI分身，好让Meta员工和老板“感觉更亲近”。学生提交AI写的论文，老师则返还AI写的评语。
社交媒体上每分钟都有人指控某段内容出自AI，检测变成了一场军备竞赛。任何东西都可能是假的，连你争吵、倾诉甚至恋爱的对象，都可能是一台机器。这些碎片拼在一起，指向的是同一个词：失控。
04｜“AI挤压”：钱和电，都被卷了进去
文章为此用了一个说法，叫“AI挤压”。AI产业的增长，已经和美国经济紧紧缠在一起。有估算认为，AI相关的支出贡献了今年美国GDP增长的三分之一。美国如今在实质上，已经是一个“英伟达国家”。
硅谷为支撑数据中心建设发行的数千亿美元债务，让债券市场都感到不安。掌管这项技术的许多领导者，决策被一种近乎博弈论的逻辑吞没。更关键的是，让竞争对手先拿到这些收益，后果没人敢承担。于是每一家公司都会不惜代价，抢先迈出那一步。
SpaceX在上市前的申报文件里写道，未来的营收机会高达28.5万亿美元。这个数字主要归功于AI，也几乎相当于欧盟的全部GDP。筹备上市的Anthropic，则把潜在的营收目标说到了30万亿美元以上。
各公司已经规划的数据中心，耗电量相当于美国最大的几座城市。它们还得到了特朗普的支持，他在Truth Social上发帖为数据中心站台。他的政府还计划在几个月内，批准建设美国历史上最大的化石燃料发电厂。
那座电厂发出的电力相当于九座大型核反应堆，全部供给OpenAI的一个数据中心。这并不是多数美国人想要的结果，四分之三的人反对在家门口建数据中心。而大部分愤怒，似乎来自一种“能动性正在流失”的感觉。
小镇居民对社区里那块正被改成数据中心的空地，也失去了控制权。到了这一步，会让人觉得：没有任何个人、组织或政府真正在操控这项技术的发展。但原因不是机器取代了人，而是太多人已经选择让开。
05｜人类不明白，就让另一群机器去查
AI实验室承诺过另一个版本：人类处在“回路之中”，被自己监管的机器赋能。但现实看起来恰恰相反，“抱抱脸”被攻击后，OpenAI请了两家独立机构做审计。
由于数据规模和时间压力，大量审计工作依赖另一批机器人生成的报告。其中一位人类审计员说，这些报告“常常缺失关键细节、有错、过度自信，或者极难理解”。换句话说，人类不明白一群智能体为何失控，就让另一群智能体去调查。
研究周期太快，AI开发越多，就有越多工作和“理解”被外包给模型本身。报告提出的解决办法之一，是“训练模型变得更加诚实”。今年8月，为压制日益增长的安全风险，公司宣布对部分模型训练暂停两周。
但它很快澄清，这“并非对所有研究训练或面向客户的产品叫停”。7月，OpenAI和Anthropic联合支持了一份由两公司员工签署的请愿书。请愿书请求美国政府“有意识地放慢AI发展节奏”，可两家公司并未正式协调过。
在那篇长文写作的9月初，OpenAI刚重启了未来强大模型的一项重大训练。今年8月末，奥特曼说，他对AI最担心的是“两大风险”。其一是“失控”，其二是“权力过于集中”，而如今这两种对立的风险都在成真。
06｜“奇点”这个词，被谁在用
十一年前，奥特曼还在经营一家创业加速器，OpenAI尚不存在。他发表了一篇分两部分的博客，谈机器智能，也谈他对奇点的理解。他当时主张，奇点会带来混乱，甚至带来毁灭。“在下个世纪的某个时点，我们将向系统中注入前所未有的随机性。”
如今他已是全球最大AI公司的掌舵人，语气也温和了许多。“临界点已经到来。”他在去年的博客文章里写道。但他也承认，这是一次温和的奇点，亲身经历印象深刻，却尚在可控范围之内。
行业里有人认为，那一刻会通过“递归自我改进”实现，也就是模型学会永久地自我完善。Anthropic联合创始人杰克·克拉克预测，它很可能在2028年前启动。
支付公司Stripe在致投资者的信里写道：“我们判定，1月1日标志着奇点的开端。”耐人寻味的是，它把这个拐点定义为“新公司创立速度的巨大跃升”。
对奥特曼而言，奇点更像一种修辞工具，而不是一条清晰的技术分界线。未来学家库兹韦尔曾写道，奇点背后的核心观念是变化在加速、力量在指数级扩张。那么“什么时候才算到了”？答案似乎是：你看到的时候就知道。
07｜如果奇点，是人的临界点
生活在AI热潮之中，有一个体验很难否认：这项技术正在加速。这种“失控列车”的失重感，已经重要到有人借“精神病”一词来形容它。对想促成奇点的行业来说，“奇点”是一个好用又可塑的词。
在奥特曼那里，它远处可怕、难以抗拒，走近了却刚好温和。所以也许，值得把这个词拿过来，自己用。但如果奇点不是天才带来的技术临界点，而是一个人的临界点呢？如果它是一场由傲慢、贪婪和错失恐惧驱动的、非被迫的失误呢？
而如果它就在这里，就在此刻呢？这项技术的一切，都不是必然的。把能动性、继而把责任归给机器，是最方便的选择。但今天这场混乱，并不是技术注入系统的。正如奥特曼十多年前所写的：毁灭就是系统本身。
不是机器里的神。
是我们。
对于此事，大家怎么看？