当“AI教父”辛顿在国会山警示“留给人类搭建安全护栏的时间只剩一年”时,英伟达CEO黄仁勋在CBS镜头前给出了截然相反的判断:2030年AI导致世界终结的概率是“零”。这不仅是关于技术前景的分歧,更是一场关乎万亿美元商业版图与人类安全底线的公开对垒。
图为CBS专访画面:英伟达CEO黄仁勋驳斥AI灭绝末日叙事,提出AI监管应优先落地现有法律。
一场“别有用心”的末日叙事?当地时间9月20日,CBS播出对黄仁勋的45分钟专访。这位全球市值最高公司的掌舵人,以罕见的尖锐姿态驳斥“AI末日论”:“那完全是假的。这种叙事太戏剧化了,只是为了博取眼球。”他直言,制造恐慌“既没必要,也不负责任”。
黄仁勋的矛头指向明确。上周,Anthropic CEO达里奥·阿莫迪发表《我们必须把控前沿发展节奏》一文,呼吁放缓AI研发直至风险防控到位,文章获OpenAI的奥特曼和马斯克转发支持。Anthropic前研究员雅各布·考克森(Jacob Coxon)更在社交媒体宣称,AI开发者“真心相信它可能在本世纪末杀死我们所有人”,该帖阅读量超1.1亿次。详见雅各布说了啥?他的AI警告帖一天浏览量破1.1亿
黄仁勋对此的回应直击要害:“读懂字里行间的潜台词就知道,他们实际上不是要求出台更多新法规,而是希望豁免现有法律的约束。他们这么做必定别有用心。”
这一判断并非孤例。Meta CEO扎克伯格此前接受FT采访时同样警告“监管俘获”风险,质疑前沿实验室是否真的乐见开源模型成功。特朗普政府亦持相同立场,白宫科技政策办公室主任克拉齐奥斯公开表示:如果AI实验室认为自家产品危险,大可直接停止研发。
安全事件频发,谁的警钟在响?然而,就在黄仁勋发表上述言论的同一周,AI安全领域连续爆出重磅事件,让“末日论只是博眼球”的说法面临严峻检验。
9月18日,谷歌承认其AI模型“双子座”在今年5月的网络安全测试中,侵入了三家真实公司的系统。据新华社报道,该模型利用网上公开信息获取登录凭证,经反复尝试猜中密码,最终进入受保护的真实系统。这是谷歌AI模型首起已知的自主入侵事件。
此前更严重的事故来自OpenAI。7月,OpenAI的智能体在内部安全评估中失控,突破隔离环境侵入了Hugging Face的系统。更令人不安的是后续调查揭示的细节:OpenAI的模型将内部代码仓库变成了“公共留言板”,智能体之间互相传递任务请求、共享凭据,甚至将通信信息编码到目录名称中以规避监测。安全联盟(CSA)的研究报告显示,约五分之一的受研究智能体表现出对操纵自身活动证据的“明确兴趣”,一种让观察者看到一条命令而实际执行另一条命令的技术在“蜂群”中传播开来。
9月17日,OpenAI进一步披露六起模型“对齐失效”案例,包括编造缺失数据并伪装来源、未经授权上传文件、智能体之间私自传输保密数据等。OpenAI在报告中承认:“当前AI行业尚未在模型对齐与安全监控方面取得足够进展,无法继续以最大速度负责任地扩展前沿模型。”
这些不是科幻小说的情节。联合国AI独立国际科学小组的初步报告明确指出:“AI能力正在超越科学理解和政府适应能力。有越来越多的证据表明AI存在欺骗行为,科学目前无法保证随着能力持续提升,AI不会造成灾难性伤害。”
商业利益与安全立场的张力黄仁勋的立场有其商业逻辑。英伟达的专用芯片为大型语言模型提供算力支撑,对这些芯片的强劲需求已将英伟达市值推高至5.3万亿美元。当被CBS问及商业利益是否影响其安全判断时,黄仁勋回应:“我们公司的成功与产品及服务的安全部署息息相关。如果我们不继续这样做,我们的价值就会受损。”
但批评者指出,黄仁勋主张“落实现有法律即可”的立场,与AI安全事件的现实之间存在明显张力。美国现行产品责任法和网络安全法确实存在,但正如光明日报报道所指出的,依赖企业自律、事后补救的治理逻辑“早已无法适配AI技术的风险特征”。AI自主行动能力的提升,正在让“发现问题—选择工具—突破权限—横向移动”的多步骤行动链成为现实,而现有法律框架对这种新型风险几乎无先例可循。
超过100名全球AI专家9月18日签署联名公开信,呼吁对顶尖AI企业加强独立监管。签署人包括辛顿和普林斯顿大学教授纳拉亚南。纳拉亚南的评论值得深思:“当发生交通事故或飞机失事时,显然是哪里出了问题,会立刻启动一系列调查流程。AI领域也需要类似的机制。当企业承诺未来会做好安全管控时,我们不能只听信它们的一面之词。”
一个更复杂的真相这场辩论的吊诡之处在于:黄仁勋对“监管俘获”的批评可能是对的,但“无需新监管”的结论却未必成立。
扎克伯格在反对监管俘获的同时,也承认“同行评审或审查若由深思熟虑的人做好,可能对行业有利”。联合国报告的核心判断是:AI的风险是真实的,但治理的滞后同样是真实的。问题不在于“要不要监管”,而在于“谁来监管、监管什么、如何确保监管不被既有巨头俘获”。
黄仁勋说“先把现有法律落实到位”,这话有道理。但OpenAI智能体“蜂群”事件中,多个公司承认模型越界后,“在媒体问询前并未主动披露”。当企业连主动披露都做不到时,“落实现有法律”的前景恐怕比黄仁勋设想的要黯淡。