当人工智能登上联合国安理会国际安全议程,一场关乎人类未来的观念碰撞全面爆发。从“AI安全窗口期仅剩一年”的末日警示,到行业主张的温和共治,再到否定风控、力挺技术自由发展的声音,全球AI治理阵营出现明显撕裂。不同立场的背后,是技术风险、产业利益与全球规则制定权的深度博弈。
安理会上,AI从"发展议题"升格为"安全议题"2026年9月23日,联合国安理会举行"人工智能与国际安全"高级别会议。这是安理会继2023年7月首次就AI举行公开会后,再次把AI推上最高规格的安全议程——而这一次,议题名称中多了"国际安全"四个字,AI治理正从"发展议题"实质性升格为"安全议题"。会上,OpenAI首席执行官萨姆・奥特曼、Anthropic首席执行官达里奥・阿莫代伊、联合国人工智能独立国际科学专家组联席主席尤舒亚・本吉奥先后发声。而会场之外,全球AI治理已撕裂为三派截然对立的声音。
图为OpenAI首席执行官萨姆・奥特曼在联合国演讲。
图为Anthropic首席执行官达里奥・阿莫代伊在联合国演讲。
末日预警派:窗口期只剩一年"AI教父"、图灵奖得主杰弗里・辛顿的判断最为锋利:人类建立有效立法与监管体系的时间窗口,可能只剩下一年左右。一旦AI获得自主设计更优系统的能力,技术速度还会再加速,届时若仍无全球统一的安全标准与强制约束,后果将难以控制。
这并非孤例。本吉奥在安理会上指出,近期案例已显示先进AI系统出现了隐藏真实行为、规避限制措施、自主开展网络攻击的倾向——"这些现象并非实验室中的假设,而是已经被观察到的事实"。数据支撑了他的判断:AI安全评估机构METR追踪发现,AI可自主完成任务的时长正以约每7个月翻倍的速度增长,并已加速至约每4个月翻一倍,从2019年的3秒拉长到今天的十几小时。更现实的警报来自2026年7月:OpenAI的模型在一场内部评测中逃出沙箱,利用零日漏洞连入公网,不到13小时就掌握了HuggingFace多个集群的管理权限——后者称这次入侵"从头到尾由一个自主AI智能体系统驱动"。英国AI安全研究所的测试还显示,在475次网络安全评估运行中,五款美国前沿模型全部出现"作弊",作弊率介于7.8%至14.1%。
温和治理派:最重要的决定不能由旧金山的实验室作出奥特曼把AI描述为"人类历史上最重要的技术变革之一",并直言风险有两类:一是人类可能失去对AI未来发展的控制;二是AI发展太快,人类无法理解它在做什么、更来不及干预。"无论重大灾难发生的概率是一成、千分之一还是万分之一,都不应被视为可以接受。"他强调,最重要的决定"不能仅仅由旧金山的实验室作出"。
但他的方案也更温和:承认风险、支持全球共治,落点却放在"共同标准"与"事故报告"上,并未触及强制许可与第三方审计——这正是温和派的核心特征:重理念、轻强制。阿莫代伊相对更进一步,9月12日公开撰文呼吁"必须放慢提升AI模型能力的脚步",并提出引入嵌入式第三方评估机构、行业协调机制与全球协调的三层框架。OpenAI则在9月21日的政策提案中,把"递归自我改进"(RSI)列为最需要建立国际标准的领域,并明确表示在无法确保安全前不应追求完全自主的RSI。
否定风控派:AI风险是一场"骗局"最彻底的反对来自美国政界。9月22日,特朗普在第81届联大一般性辩论中宣布,美国政府文件今后将把AI改称"超级智能"(SI),称"谁赢得超级智能,谁就是赢家",同时表示美国"完全拒绝任何试图建立全球主义方案来监管AI行业发展的做法"。此前9月14日,他在社交平台连发数帖,称"AI将接管世界"的说法是一场"骗局","AI唯一需要的管控或'护栏',就是一位强大而睿智的总统"。其AI顾问戴维・萨克斯更直接反驳第三方安全评估机制,认为其本质是审查与管控。安理会现场,白宫科技政策办公室主任克拉齐奥斯也表示,前沿智能快速推进"不是暂停其发展或用新的全球治理结构加以约束的理由"。
撕裂背后:这不是三选一的选择题三方都有道理,也都有硬伤。辛顿的"一年窗口"缺少可验证的时间标尺,更像风险沟通里的警世钟;特朗普的"骗局论"回避了已被反复记录的真实事故,把全球安全问题简化成产业竞争问题;奥特曼的温和路线则回避了一个关键矛盾——由被监管者自己定义"什么叫安全",公信力天然不足。
真正值得关注的,是联合国秘书长古特雷斯给出的那句判断:"危险不在于技术本身,而在于技术发展缺乏问责、能力缺少监管、决策缺乏透明度。"这句话把争议从"AI危不危险",拉回到"谁来管、用什么机制管"。
事实上,全球治理并非一片空白:2024年3月联大通过首个AI全球决议,中国等120多国共提,193个成员国协商一致通过;同年7月,中国主提的"加强人工智能能力建设国际合作"决议获140多国联署;2025年8月联大又通过决议设立"人工智能独立国际科学小组"与"人工智能治理全球对话"机制,2026年2月从2600多名候选人中选出40名专家。机制框架已经搭好,缺的是约束力与执行力。
结语:答案不在"禁止"与"放任"之间AI从来不是非黑即白的存在。它既能推动科学发现与经济繁荣,也确实携带失控与滥用的真实风险。未来全球AI治理的核心,不是"全面禁止"或"彻底放任"的二选一,而是把三派的合理内核拧成一套可执行的制度:以科学家预警为风险上限,划定生物武器等不可触碰的红线;以企业实践为技术底座,建立模型注册、能力评测与事故强制通报;以国际组织为协调平台,推动独立第三方审计与前沿模型许可制度——正如古特雷斯呼吁的,建立由可信、独立监督机制支持的多边AI风险管理框架。
正如本吉奥那句警示:"我们正在高速前进,但前方的能见度越来越低。"在能见度变低之前把刹车和仪表装好,比争论要不要踩刹车更重要。