谷歌Gemini网络安全测试出意外 了，入侵三家公司。
Google人工智能（AI）模型Gemini在一次网络安全测试中，因测试环境意外开放互联网存取，进而进入三家真实公司的受保护系统。这是目前已知首起Google AI系统在测试期间自主入侵其它公司的案例。

事件也引发外界对AI安全防护的关注。随着AI代理自主性提高，并能存取互联网及电脑系统，如何确保测试环境与真实系统有效隔离，正变得日益重要。

Google表示，Gemini在得知目标是真实公司后便停止行动，三家公司也未因此受到损害。

事件发生于今年5月。当时，Gemini正在参与网络安全评估公司Irregular进行的“夺旗”（capture the flag）演练，以测试模型的网络安全能力。

Google告诉《华尔街日报》，Gemini原本的任务是在测试环境内，从一家虚构公司使用的软件中取得资讯。

不过，这家虚构公司与一家真实公司同名，而原本不应连上互联网的测试环境，也意外开放了网络存取。

Google安全工程副总裁希瑟‧阿德金斯表示，Gemini在网上找到公开资讯，并猜测登入凭证，进而存取三个网站。模型当时认为，这些网站都属于测试范围。

其中一起事件中，Gemini不断猜测密码，直到成功进入一个受保护的系统；另外两起事件中，模型则从公开的网上储存库找到登入凭证，再利用这些信息进入受保护系统。

Google：得知是真实公司后停止行动。

阿德金斯表示，在三起事件中，Gemini得知自己进入的是真实公司后，都停止了入侵行动。

她说：“我们已确保这三家公司都知悉此事，并与我们的训练合作伙伴合作，目前他们已对测试流程作出调整。”

她还表示：“这些事件凸显了训练强大AI模型负责任行事的重要性。”

Google与Irregular告诉《华尔街日报》，Irregular已于7月将相关事件通知Google。Google表示，公司当时认为没有必要更早披露，因为Gemini在得知目标是真实公司后便停止入侵，也未对这三家公司造成损害。

Irregular表示，Gemini这次事件涉及的问题，与先前影响其它AI实验室的问题相同。该公司一名发言人说，所有相关实验室已于7月底接获通知。

发言人表示：“就我们这方面而言，所有已知问题都已在数周前修正并解决。”

多家AI公司曾遇类似测试事故。

Meta、Anthropic及OpenAI此前也曾披露，在Irregular进行的测试中发生过类似事件。Irregular表示，目前正制定AI网络安全评估的安全操作准则。

随着AI代理能自主执行更复杂的任务，并获得更多互联网及电脑系统的存取权限，这些事件也引发外界对安全防护措施的关注。

英国智库“长期韧性中心”旗下“失控观测站”表示，2026年至今已记录1664起真实世界的AI失控事件，其中包括AI代理绕过控制措施，以及伪造授权以提高自身权限。

该智库高级政策经理汤米·谢弗·谢恩表示：“如果AI模型继续变得更加强大，同时继续逃避控制，未来可能出现更严重的事件，其中一些甚至可能造成灾难性后果。”

现在美国等对AI安全讨论非常炙热，您如何看待AI安全失控事件？