众力资讯网

昨天晚间路透社报道称,一群失控的 OpenAI 智能体劫持了一个德语维基网站,由此引发外界对 OpenAI 的质疑。对此,OpenAI 回应称,需要彻底改革 AI 模型攻击现实世界目标后,企业应在何时以及以何种方式对外披露此类事件。 OpenAI 今天(5 日)在 X 平台发文表示:“关于‘维基事件’,也就是我们的智能 ​

昨天晚间路透社报道称,一群失控的 OpenAI 智能体劫持了一个德语维基网站,由此引发外界对 OpenAI 的质疑。对此,OpenAI 回应称,需要彻底改革 AI 模型攻击现实世界目标后,企业应在何时以及以何种方式对外披露此类事件。OpenAI 今天(5 日)在 X 平台发文表示:“关于‘维基事件’,也就是我们的智能体向多个互联网网站写入内容一事,我们早就应该制定标准,明确何时以及如何披露‘误对齐’事件,而不仅仅是披露模型本身的误对齐属性。”