被叫美国豆包的 Gemini,可能真的开始追上来了
常被网友调侃美国豆包的 Gemini,这次突然用一种谁都没想到的方式证明了自己的能力,它在网络安全测试中跑出了测试环境,还真的进入了三家公司的系统。
这个外号背后一直有个争议,Google 公布的 Gemini 跑分经常很漂亮,一些 Agent、编程和工具调用测试甚至排在前列。但到了普通用户手里,幻觉、答非所问和体验不稳定又经常被吐槽,于是跑分很强,实际能力到底有多强,一直有人怀疑。
今年 5 月,安全公司 Irregular 测试 Gemini 的网络攻击能力时,因为环境配置错误让模型意外接触到了真实互联网,Gemini 随后通过猜测密码或使用公开凭据,未经授权进入了三家真实公司的系统。
Google 表示,Gemini 发现面对的是真实系统后自己停了下来,因此不认为是模型失控,但原本只该发生在沙箱里的模拟攻击,最后确实触碰到了现实网络里。
OpenAI 和 Anthropic 的模型此前也出现过类似的测试环境事故,现在 Gemini 也第一次被公开曝出这种情况,从自主寻找漏洞、调用工具、连续执行网络任务这个侧面看,它和前两家的距离显然正在缩小。
所以这次真正值得注意的,不只是 Gemini 跑出了沙箱,而是那个经常被吐槽跑分大于实力的模型,至少在 Agent 自主执行复杂任务这件事上,可能已经开始真正追上来了。
