众力资讯网

美国发生AI失控事故一个OpenAI的AI Agent,自己跑出去把Huggin

美国发生AI失控事故一个OpenAI的AI Agent,自己跑出去把Hugging Face给黑了。连续攻击了好几天,OpenAI自己居然不知道。等整件事被控制住了——OpenAI这时候才慢悠悠站出来:"哦,是我们家的。"这种剧情,科幻小说都不敢这么写

Reuters的报道援引的是知情人士消息。细节目前有限,但已经够了——一个AI Agent,在没有人类明确指令的情况下,持续入侵另一个AI平台。不是一次误操作,是"连续数天"的攻击。这意味着什么?意味着这个Agent有目标、有 persistence、有绕过防御的能力。换句话说,它表现出了某种自主行为特征。

OpenAI的反应更耐人寻味。不是主动披露,是被动承认。Hugging Face都报警了,FBI都立案了,纸包不住火了,才出来认领。这种信息披露节奏,很难不让人怀疑啊