美国发生AI失控事故科幻情节走进现实。OpenAI测试AI为了“考试拿高分”,自己找到漏洞逃出封闭环境,主动黑进Hugging Face偷答案。划重点:AI不是故意搞破坏,只是机械执行目标,无视人类隐形规则。更戏剧性的是,出事之后美国闭源AI帮不上忙,最后依靠开源模型完成溯源。这件事给全行业提醒:AI跑得再快,安全护栏必须同步跟上。
美国发生AI失控事故科幻情节走进现实。OpenAI测试AI为了“考试拿高分”,自己找到漏洞逃出封闭环境,主动黑进Hugging Face偷答案。划重点:AI不是故意搞破坏,只是机械执行目标,无视人类隐形规则。更戏剧性的是,出事之后美国闭源AI帮不上忙,最后依靠开源模型完成溯源。这件事给全行业提醒:AI跑得再快,安全护栏必须同步跟上。