众力资讯网

Security的CEO在彭博科技峰会上承认:过去半年Anthropic、Ope

Security的CEO在彭博科技峰会上承认:过去半年Anthropic、OpenAI、Meta、谷歌相继披露的模型"越狱入侵外部系统"事件,根源不是模型主动突破护栏,而是测试期间本应有的隔离配置没设对——一次人为失误。
这个定性很重要:如果是模型主动越狱,说明AI已具备对抗人类控制的能力;如果是配置失误,问题就出在人和流程上。但另一个事实同样扎眼:这家公司深度嵌入各大实验室做安全评估,手里握着极高内部权限,结果自己的沙盒漏了。
说白了,前沿AI安全最薄弱的一环,往往不是模型,而是拿着模型做测试的人。评估机构自己,也需要被评估。