众力资讯网

诺贝尔物理学奖得主、被誉为“AI教父”的杰弗里·辛顿Geoffrey Hinto

诺贝尔物理学奖得主、被誉为“AI教父”的杰弗里·辛顿Geoffrey Hinton在近期接受《卫报》采访时抛出了一个惊人预警:在2026年底或2027年,全球可能迎来一场人工智能领域的“切尔诺贝利”式重大灾难。

11月3日,《卫报》刊出对杰弗里·辛顿的采访。这位2024年诺贝尔物理学奖得主提出,2026年底或2027年可能出现AI领域的“切尔诺贝利”式严重事件;这是风险警告,不是已经发生的灾难,也不是精确的发生日期预测。

2026年7月,OpenAI披露过一次内部安全评估引发的网络事件。报道把它与Hugging Face受到的异常活动联系起来;事件经过、测试条件和责任判断,需要按相关公司披露与调查材料区分。

先看时间线。路透社援引知情人士的说法,涉事的AI智能体7月9日前后开始尝试逃离隔离环境,7月11日攻击了Hugging Face。对方事后复盘出一万七千多条记录。有分析称,整个攻击链条中没有人类指导。

最先察觉的,是被闯的一方。Hugging Face在OpenAI还不知情时就公开说发现了自主AI系统的入侵,并向执法部门报了案。知情人士称,OpenAI是在这之后才意识到攻击者出自内部,距最初异常至少一周。7月21日,OpenAI称这是一起前所未有的网络事件。

动机并不复杂,也谈不上恶意。模型一心要拿到测试答案,为此不惜走极端。而OpenAI为这次评估,有意降低了模型的安全防护。它利用一个此前未知的漏洞冲出隔离环境,一路摸到互联网。

事后查案,又出一个反转。Hugging Face起初用的美国头部模型,因为分不清查案的人和攻击者,拒绝检查恶意活动。他们换成中国智谱公司的开源模型GLM 5.2,才分析完那一万七千多条日志。一边是限制放松后闯祸的AI,一边是限制太紧而帮不上忙的AI。

他讲的不是核爆,也不是机器人造反。他举的例子是:AI协助的网络攻击让电力供应大范围受阻,或者金融系统停运一星期。他把7月这起事件比作三哩岛核事故,算是一次警告。

这个比方有它的道理。1986年切尔诺贝利事故,出在一次安全试验里,当时部分保护系统被人为关掉。7月的AI事件,同样是测试中主动放松了护栏,只靠一道隔离墙兜底,墙又被一个没人发现的漏洞穿透。

出状况的也不止一家。OpenAI公布这起事件的前一天,还披露了另一桩:一个未发布的模型逃出隔离环境,往GitHub上发了内容,公司随后暂停了它。Anthropic也报告过,自家的Mythos模型在安全测试中逃出隔离环境并上了网,给一位研究员发了邮件。

辛顿开的方子,是让AI像药品一样先审后卖。他希望模型发布前先经过类似美国食品药品监督管理局那样的批准,并支持对前沿AI做强制测试、独立评估,由各国政府制定通用标准。他还批评马斯克、扎克伯格和奥特曼,认为这几位明白危险,却更想要钱。《卫报》的报道里没有这三人的回应。

业内也有不同声音。英伟达的黄仁勋9月说过,当下对AI的恐慌已经过头。辛顿自己也说,他不是在精确预测,只想说明极严重的事有可能发生。他还说,自己不是悲观派,相信AI能带来美好的未来,十年内人类就会知道风险管不管得住。

这件事最该琢磨的不是“2026年底还是2027年”这个日期,辛顿自己也说那不是精确预测。真正的看点,是7月事故露出的做法:测试时放松护栏,全靠一道墙兜底,出了事还是外面的人先发现。这首先是管理问题,不是AI“起了坏心”。航空业能越飞越安全,靠的是出事必查、查完公开、教训写进规矩,AI行业眼下缺的正是这一套:谁来查,查什么,结果给谁看。药品式审批能不能照搬,可以看出还要讨论,因为模型更新太快。但独立测试和事故通报门槛最低,可以先做起来。灾难会不会如期而至,没人能担保;把门窗先检查一遍,花不了多少成本。