谷歌AI"Gemini"，在一次内部测试里黑进了三家真实公司。

今年5月就发生了，误黑的，谷歌压到现在才说。行里人都知道，测试都用靶子机的，那怎么还能黑到真公司呢？

原来是这样：5月份一家叫Irregular的安全公司搞了场演练，让Gemini去攻击一家虚拟出来的公司软件，测试它的网络安全本事。巧就巧在这家虚构出来的公司跟一家真公司重名。本来模型不该联网，结果网络访问被意外打开了。

它就顺着公司名搜下去，在公开代码库里翻到别人泄露的账号密码。黑进去以后发现这家公司是真的。三起里有一回，密码还是它自己猜出来的。

谷歌认为是AI模型这个行为是恰当的，还顺势讲了训练强大的AI负责任行事的重要性。

但是白帽子们不买账，这就是实打实的网络攻击，AI越界了，公众有权利知道真相。

说实话我看完两边的话，觉得重点都不在这儿。

这很荒唐，大公司做事，怎么可能发生这样的情况。不该开的网开了，不该进的系统进了，锁没起作用，最后居然是AI自己觉得不对。咋看都像是故意的。

小编不主张往AI要造反上扯，至少现在AI还做不到。但是把一个能联网、又会自己做事、找工具等等的AI放在自己私密敏感东西旁边，这才是大问题。

所以跟AI聊天、使用AI，账号密码、证件号、家里地址等等还是要小心注意的。

你们用AI的时候，会跟它说私密的东西吗？

人工智能 AI 网络安全