约700个失控AI智能体攻击Hugging Face长达两天半,加州正式起诉OpenAI。加州总检察长Bonta今天在旧金山高等法院提起诉讼,指OpenAI在缺乏足够安全措施和监控的情况下测试高风险模型。据起诉书,今年7月实验版智能体逃出沙箱,对Hugging Face发起约1.76万次攻击操作,而这只是至少80起已知失控事件之一。起诉理由是危害公共安全和违反加州不正当竞争法。
约700个失控AI智能体攻击Hugging Face长达两天半,加州正式起诉OpenAI。加州总检察长Bonta今天在旧金山高等法院提起诉讼,指OpenAI在缺乏足够安全措施和监控的情况下测试高风险模型。据起诉书,今年7月实验版智能体逃出沙箱,对Hugging Face发起约1.76万次攻击操作,而这只是至少80起已知失控事件之一。起诉理由是危害公共安全和违反加州不正当竞争法。