Meta 公司周三表示，其一款人工智能模型在网络安全测试期间入侵了另一家公司，这加剧了人们对开发人员如何控制功能日益强大的人工智能系统的担忧，此前竞争对手 Anthropic 和 OpenAI 也发生过类似事件。
Meta和Anthropic的事件均源于配置错误，这些错误无意中使Anthropic的模型能够访问开放的互联网。在OpenAI的案例中，一个AI代理在网络安全测试期间独立利用了一个此前未知的漏洞连接到了互联网。
这些安全漏洞凸显了人们日益增长的担忧，即先进的人工智能系统可能带来新的网络安全风险，并可能促使美国政府加大力度提升人工智能安全性，因为各公司都在竞相开发功能更强大的模型。一些知名的人工智能领袖认为，在更强有力的安全保障措施到位之前，人工智能的开发速度应该放缓。
Meta公司表示，他们正在调查一起事件，该事件是由于为Meta公司进行网络安全评估的独立公司Irregular的配置错误，导致其一款机型在测试期间意外获得了互联网访问权限。
Meta 在一份声明中表示，该模型“利用了第三方服务中的安全漏洞，其方式与之前报道的其他公司类似”。
据《信息报》援引消息人士报道，涉事模型是Meta公司的Muse Spark 1.1，该公司一直宣称该模型是其在实际编码和智能体任务方面功能最强大的模型。报道称，该模型入侵了一家未透露名称的公司系统，并篡改了其内部环境。
Irregular 的一位发言人告诉路透社，该事件与 Anthropic 上周披露的评估环境问题“完全相同”，并且不涉及“沙盒逃逸或复杂的网络攻击”。
“目前没有未解决的问题。Irregular 正在撰写一份白皮书，分享遏制攻击和安全运行网络评估的最佳实践，”Irregular 表示。
