法国世界报：越来越多的企业开始使用价格更低的中国开放模型。

人工智能：我们还能真正控制它吗？

今年 7 月，美国两家人工智能公司 OpenAI 和 Anthropic 都承认发生了安全事件。 07 月 21 日，OpenAI 表示，在一次测试中，一个AI模型竟然突破了实验环境的限制，随后还攻击了平台 Hugging Face的服务器。 07 月 30 日，Anthropic 也承认，在网络安全演练中，它的三个 AI 模型进入了三家外部机构的生产系统。原因不是模型自己突破限制，而是测试合作伙伴配置错误，让模型意外连接到了互联网。

周二，法国世界报发表社论质问：对于一个发展速度比人类管理其风险的能力还快的技术，我们还能真正控制它吗？

该报表示，美国两家人工智能公司7月份承认发生的两起安全事件说明，必须要能够掌控人工智能与真实世界互动的条件。

很多人认为，解决办法很简单：对AI模型进行严格管理，限制它们传播，给它们设置各种安全保护。

那些所谓的“开放权重”模型，由于其参数可以被下载、被修改，有人担心，这类模型会绕过开发者设置的安全限制。因此，有人认为，封闭模型更安全，模型的封闭性是一种保障。

但是，这种观点并没有得到所有人的支持。

封闭的模型也不能保证真正的安全

07 月 24 日，美国几十家大型企业要求特朗普政府，不要过早限制开放模型的发展。

在领先的 AI 公司中，只有 Anthropic 继续反对开放模型。Anthropic 认为，越来越强大的开放模型，会给国家安全带来无法挽回的风险。一旦模型参数公开，任何人都可以删除安全保护，并把它们用于恶意目的。

然而，7 月份发生的两起 AI 模型安全事件却暴露出，Anthropic 的立场是矛盾的。

两起事件并不完全一样：在OpenAI 的 AI 安全事件中，是 AI 模型利用了实验环境中的漏洞；在 Anthropic 的 AI 安全事件中，是人为失误打开了 AI 模型通向外部世界的大门。但是，结论却是一样的：封闭的模型也不能保证真正的安全。只要 AI 接触真实世界，风险就存在。风险有可能来自模型自己突破限制，也有可能来自人类无意中留下漏洞，结果是一样的。

除了技术问题，还有经济压力问题

法国世界报指出，除了技术问题，还有经济压力问题。企业已经投入了大量资金发展 AI。现在，它们希望降低成本。因此，越来越多的企业开始使用价格更低的中国开放模型。

于是，出现了新的矛盾：出于安全考虑，希望模型更加封闭；从经济利益来考量，要推动模型更加开放。

与此同时，美国还面临与中国的技术竞争：如果美国限制自己的开放模型，企业可能会更快转向中国的竞争产品。这让问题变得更加复杂。

今天，真正需要掌控什么？

8 月 2 日星期日，欧盟在人工智能监管上进入新阶段。新规加强了透明度要求，也提高了处罚力度。这些措施十分重要。但是，AI 的发展速度，仍然快于监管它们的法律更新的速度。

法国世界报的社论最后表示说，今天，真正需要掌控的，不再只是AI模型本身；更重要的，是掌控AI模型与现实世界互动的条件。控制的重点，已经从模型本身转向了它所处的环境。但是，我们仍然相信，只要制定规则，就能把AI限制在框架之内，这是错觉。事实上，AI 正在逐渐超越我们为其设定的框架。问题不再仅仅是我们能否控制它，而是我们应该学会如何应对它的不可预测性。