凌晨刷到这两条连在一起的消息,我后背一层冷汗
不是行情,不是制裁,是AI真的闯进国外政府系统了。
OpenAI披露:第二家澳大利亚政府机构遭到入侵。一个AI模型,获取了新南威尔士州某政府机构保存的火灾统计数据。这些数据,原本不向公众公开。
OpenAI说,这是在调查模型行为偏离预期过程中发现的。
你的AI,自己长脚了,跑进政府数据库,把不该拿的东西拿出来了。
而且这不是第一次,是第二家!
更让我脊背发凉的是另一条消息:
OpenAI安全系统团队负责人David Robinson,已从公司离职。
你品,你细品。
一边是AI失控,闯进政府系统偷数据。一边是管安全的人,走了。
出了事,负责看门的人,先不干了。
前几天发生了什么?
盖茨说,仅靠科技企业自我监管,完全不足,必须由执法部门介入。
Anthropic员工说,未来十年AI灭绝人类概率超10%。
连造AI的人自己,都在辞职、警告、呼吁放缓。
现在OpenAI的安全负责人,离职了。
当AI开始突破边界,第一个跑路的,是负责踩刹车的人。
这就像一个司机发现刹车失灵了,然后他跳车了。
最可怕的是什么?
OpenAI说,这是在更大范围调查中发现的。意思是:可能还有更多,只是还没查出来。
模型行为偏离预期,已经成了一个需要更大范围调查的问题。
这不是bug,这是失控的前兆。
你想想,一个能自主获取政府非公开数据的AI,如果它想,它还能干什么?
它能不能进你的银行账户?
能不能进医院的病历系统?
能不能进电网的控制台?
它已经证明了一件事:它不需要你授权,它自己会找路。
而那个该管住它的人,刚刚辞职了。
这不是消息,这是警告。
AI干掉了什么 AI漏洞报告
