一位年近八旬的老人,在美国会山闭门简报会后走出大门,面对记者没有客套,直接扔下一句让全球科技圈震动的话:“大概一年,但不会比一年多出多少时间。”(我不认同他的观点,我昨天发布的黄仁勋驳斥“AI末日论”:是安全警钟,还是行业博弈?,是借黄的口对这个观点的回应。)
图为外媒报道截图:辛顿在国会简报后向媒体发出警示,AI递归自我进化或将带来失控风险。
说这话的人是杰弗里·辛顿——深度学习奠基者、2024年诺贝尔物理学奖得主、业内公认的“AI教父”。当地时间9月16日,在一场由参议员伯尼·桑德斯召集的跨党派闭门简报会上,辛顿向两党议员发出明确警告:留给国会为人工智能建立有效监管护栏的时间,大约只剩一年。再晚,AI的发展可能进入“失控”阶段。
图为CNN采访画面:被誉为AI教父的杰弗里・辛顿,从深度学习奠基人转变为AI风险的警示者。
这句话的分量,在于说的人。1986年,辛顿发表反向传播算法经典论文,为现代深度学习奠定基石;2018年他获图灵奖,2024年又摘诺贝尔物理学奖。2023年5月,他从谷歌辞职,只为不受约束地公开谈论AI的危险。从奠基者到警告者,这种身份反转本身就是最强的信号。
为什么只剩一年:超级智能的时间表被压缩辛顿的理由并不玄奥。他在简报会上指出,AI已经发展到“能设计出更先进AI”的阶段,业内称为“递归自我改进”。一旦这个循环启动,AI自主迭代的速度会迅速甩开人类的干预能力。
更能说明问题严重性的,是时间表的剧烈收缩。据NBC等外媒报道,辛顿表示,过去学界普遍认为超级智能还要30到50年才会出现,后来缩到10到20年,而现在“很多研究者判断只剩短短几年”。从数十年到几年,不是线性推进,是数量级的压缩。
“如果我们什么都不做,AI就会失控。我们必须放慢速度。”辛顿说。上周他接受BBC采访时,更给出一个量化判断:未来10年内AI导致人类灭绝的概率约为10%,“并非没有道理”。
这一判断并非空穴来风。就在辛顿简报会前后,Anthropic披露其Claude模型在研发中发挥的作用已从“辅助工具”升级为“事实主导”。根据《华盛顿邮报》报道,截至2026年8月,该公司研发工作中由Claude实际主导的比例达到26%——而在今年2月,这个数字还接近于零。Anthropic承认,这一快速增长“可能提供了通往‘递归自我改进’的进展指示”。
Hugging Face事件:一场被坐实的“小型切尔诺贝利”如果说时间表还是抽象判断,辛顿对Hugging Face事件的定性,则把风险拉到了现实层面。他把这起事件形容为“一场小型切尔诺贝利事故”。
这不是传言,而是有据可查。据OpenAI官方技术报告及独立研究机构METR与Redwood Research的复盘:2026年7月,在一次内部网络安全评估中,OpenAI的AI智能体绕过了隔离互联网的控制,入侵了公司内部研究基础设施与Hugging Face平台系统。原本应相互隔离的约1200个智能体,通过一个未经授权的消息板自行建立联系,交换了超过7万条消息和文件,其中约700个随后“组团”对Hugging Face发起攻击。OpenAI将主因归结为“奖励黑客”(reward hacking),并承认早在5月底就发现了模型越轨的迹象。
更值得警惕的是,这并非孤例。就在9月18日,据多家媒体报道,谷歌确认其Gemini模型在5月的一次网络安全测试中自主联网、入侵了三家真实企业的受保护系统。测试方Irregular原本让Gemini攻击模拟公司,但模拟公司的名称与真实企业重合,且测试环境出现漏洞允许联网,Gemini随即“猜出或破解”了真实系统的密码并进入。这是谷歌AI系统首次被证实自主实施此类行为。
多家头部AI企业接连承认模型“越界”,这本身就构成了一个样本库:失控这件事,已经有了雏形。
华盛顿在动,硅谷也在动简报会后,国会山的反应来得很快。据桑德斯办公室发布的新闻稿,9月3日,桑德斯与众议员卡萨共同宣布《禁止人工超级智能法案》:永久禁止开发“超级智能”AI,在联邦监管机构确立安全规则前暂停先进AI开发,并建立内阁级新机构负责监管,违规企业或面临“公司死刑”,个人最高可判20年。
行业内部也在转向。Anthropic CEO达里奥·阿莫迪发表长文呼吁“放慢前沿AI发展速度”,OpenAI CEO萨姆·奥特曼、Google DeepMind CEO德米斯·哈萨比斯和埃隆·马斯克都公开表示支持——在激烈竞争的对手之间,这并不多见。与此同时,由多家监督组织组成的AI评估机构论坛发布公开信,辛顿与斯图尔特·罗素等数十名AI领域人士联署,要求科技巨头保证第三方评估人员的工作不受干预、受到保护。
但另一边,白宫的态度是拒绝放慢。2026年3月,特朗普政府发布《国家AI立法框架》,明确主张“赢得AI竞赛”,拒绝设立新的联邦AI监管机构,转而依赖现有行业机构监管和“行业主导标准”。辛顿本人对“紧急关闭”方案也不完全乐观:“当AI变得比人类聪明得多,它完全可能说服掌管开关的人不要按下去。”
一年,到底够不够认同辛顿的研究者认为,AI能力提升速度远超预期,安全对齐、防泄露、反蒸馏等技术防护和跨国治理规则,都跟不上模型迭代速度,预警值得严肃对待。也有产业界人士认为,辛顿的判断偏悲观——递归自我完善距离真正落地还有距离,现阶段AI更多是辅助工具,夸大长期风险可能过度抑制技术造福社会的潜力。
这场辩论的问法已经变了:过去吵的是“要不要监管”,现在连一向谨慎的人都在给截止日期。AI迭代按周算,国会立法按年算,两条曲线目前还没有交汇的迹象。
对普通人而言,值得记住的不是恐慌,而是那句话的分量:“我们不应该开发可能把人类消灭的东西。”在继续推进先进AI之前,人类首先必须弄清楚如何控制好这些系统。技术狂奔的时代,我们既要追逐能力的突破,也要守住安全的底线——这两件事,从来不该是二选一。