9月8日，美国顶尖AI专家突然宣布离职，并发出警告：2030年前后，人工智能可能带来毁灭性风险。他还直指美国两大AI巨头正在进行一场“危险的赌局”，引发行业震动。


考克森这番话最扎人的地方，不在于“AI有风险”这个老话题，而在于它戳破了一层窗户纸：行业内部对安全的信心，可能比外面看起来要脆弱得多。



他的同事埃文·胡宾格几乎在同一时间公开站了出来，说自己评估未来十年AI导致人类灭绝的概率超过10%，而且公司目前根本没有解决超级智能“对齐”问题的方案。



这就好比一架飞机的导航系统还没调试好，飞行员们却已经在讨论要不要起飞了。



当建造者和监督者同时表达不信任，那就不再是个别人的杞人忧天。



为什么明知有问题还要往前冲？考克森自己在离职声明里给出了答案：不是因为没人意识到危险，而是因为“不信任对手能安全开发，所以必须抢在前面造出来”。



这种逻辑听起来荒唐，但它恰恰是当下AI竞赛最真实的写照。


每一家公司都在等别人先踩刹车，结果谁也没踩。



资本不断加码，模型能力一路狂飙，而那些本该踩刹车的人，要么没有权限，要么不敢踩——因为踩了就意味着被对手甩开。


把视野拉长一点看，这种“先跑再说”的剧本我们其实见过。


核技术从诞生到形成国际管控框架，用了将近二十年。基因编辑从技术突破到伦理共识，也花了数年。



但AI的迭代速度远远快过了人类纠错的速度——从GPT-3到能自主决策的智能体，不过短短几年。

历史上每一次颠覆性技术都经历过“先冲再补课”的阶段，可问题是，AI这门课的补考代价，可能大到我们承受不起。


考克森说未来一到两年是“终局之战”，这话带着个人情绪，但指向的问题很实在：人类治理技术的节奏，从来就没有追上过技术本身。



全球范围内，欧盟在推进监管，中国在完善标识制度，但美国联邦层面至今拿不出一部统一的AI安全法。州一级在“打补丁”，国会还在扯皮。



这种监管时差，放在一个以月为单位进化的领域里，几乎等于不设防。


回到考克森这件事本身，我觉得最有意思的不是他说的那些话有多吓人，而是他为什么能引发这么大震动。


人们本能地相信造房子的人对地基的判断。


当造房子的人开始怀疑地基，旁观者没有任何理由比他们更乐观。他辞职的意义不在于给出了什么解决方案，而在于他用行动证明了一件事：至少在目前，连最核心的建造者都对安全机制失去了信心。


这种信心的流失，比任何一项技术指标都更值得警惕。

信源：

科技日报，《美研究人员警示AI快速发展风险》，2026年9月11日

澎湃新闻