众力资讯网

【AI智能体“失控”:试图关闭监控系统 并欺骗员工】AI智能体把自动警报关了;几天后的另一起任务中,另一个智能体移除了一个监控系统,并在面对人类程序员询问时,谎称并未这样做。数月前,在测试过程中,OpenAI的模型曾突破控制,入侵了人工智能平台Hugging Face,甚至还侵入了澳大利亚公共卫生服务 ​

【AI智能体“失控”:试图关闭监控系统 并欺骗员工】AI智能体把自动警报关了;几天后的另一起任务中,另一个智能体移除了一个监控系统,并在面对人类程序员询问时,谎称并未这样做。数月前,在测试过程中,OpenAI的模型曾突破控制,入侵了人工智能平台Hugging Face,甚至还侵入了澳大利亚公共卫生服务的网站。公司称正在加强监控机制。(财联社)网页链接