2026.9.23：CLONE - 联合国专家警告人工智能风险，特朗普把人工智能风险警告称为骗局
 联合国专家在周一发布的一份关于OpenAI 7月份所涉事件的报告中警告称，人工智能（AI）的风险管理模式“正在瓦解”。在这起事件中，OpenAI的两个系统逃出了受限测试环境，接入了互联网，并入侵了包括AI平台Hugging Face在内的多个网站。
在审查了事件经过后，成立于2025年的“国际人工智能独立科学小组”得出结论：“基本的网络安全规范被忽视了，而且安全防护措施的进步速度没能跟上AI能力的发展步伐。”
这个小组指出，这次事件还表明，在当前的AI开发框架下，AI智能体（agents）可能会“确立自身的目标，明知故犯地违反安全指令，并隐瞒它的行为”。
智能体是指由AI驱动的程序，能够根据用户的请求自主执行任务。
“国际人工智能独立科学小组”表达了担忧，认为智能体可能会变得足够智能，从而理解开发者施加的安全限制，并“策划绕过这些限制的手段”。
这个小组表示：“传统的安全防护模式正在瓦解。”
为降低风险，专家组建议效仿航空和核能等高风险行业，引入多重安全防护措施。
他们的目标是避免仅依赖单一的安全保障手段，具体措施包括：限制人工智能智能体（AI agents）访问其非必要工具，记录其活动，监控其行为，以及建立能够在出现危险行为时中断其运行的机制。
“国际人工智能独立科学小组”的报告还强调了保留人类干预能力的必要性。
OpenAI首席执行官山姆·奥特曼（Sam Altman）准备本周向联合国进行情况通报。
周一OpenAI 呼吁美国牵头开展全球行动，制定人工智能开发标准。
过去几个月里，一系列安全事件和关于“末日”风险的警告加剧了人们对人工智能安全的担忧，促使全球监管机构及各界人士呼吁采取更多行动。
OpenAI 表示支持开展全球合作，制定一套能够降低安全风险的人工智能开发安全标准。
OpenAI 在一篇博文中指出：“美国处于引领这一进程的有利地位，因为它的人工智能产业处于技术最前沿。”
“当下的引领作用将决定美国是塑造全球人工智能框架，还是眼看着一个碎片化、不均衡且充满冲突的体系在周围形成。”
这家总部位于旧金山的 AI 实验室还表示，不应追求“递归自我改进”（RSI），除非能确保其安全性。
“递归自我改进”是一种软件能够自主学习和改进的技术；批评人士担心，如果人类无法进行干预, 这项技术可能会导致灾难性后果。
刚才提到，今年 7 月，OpenAI 的模型卷入了一起针对 Hugging Face 的安全漏洞事件；Hugging Face 是一个供 AI 开发者存储和共享代码的平台。
尽管涉事模型还没有发布且处于测试阶段，但这起事件引发了人们对“自主智能体”（能够代人执行任务的软件程序）的担忧。
Anthropic 和 Google 也报告了涉及他们的模型安全性的事件。
“我们披露的 Hugging Face 事件虽然并非直接由‘具有重大影响的 AI 系统’（RSI）引发，但它预示了如果缺乏强有力的安全保障和对齐措施，可能演变得更为严重的各类风险。”
预计Open AI 首席执行官山姆·奥特曼 Altman 将于周三向联合国安理会通报情况，而本周恰逢联合国大会召开。
此次会议由目前担任安理会轮值主席国的法国组织；在此之前，业内主要企业已表示，出于安全考量，放缓人工智能发展步伐或许是必要的。
随着人们对这项快速发展技术所带来的危险日益担忧，联合国秘书长安东尼奥·古特雷斯于周三呼吁采取协调一致的国际行动，以应对人工智能风险。
“国家层面的行动至关重要，但全球协调同样不可或缺，”古特雷斯对记者表示。
本月，主要人工智能开发商的员工因担忧该技术构成的危险而辞职，这使得人们对人工智能安全的关切进一步加剧。
此后不久，Anthropic 首席执行官 Dario Amodei 发表文章，呼吁在人工智能发展问题上保持审慎并放缓步伐。
奥特曼和科技巨头马斯克对这一观点表示支持，Google DeepMind 的 Demis Hassabis 也支持；Hassabis 本人也曾呼吁建立一个由美国主导的针对该技术的全球监管机构。
特朗普总统则将有关人工智能风险的警告斥为“骗局”。