模型都做好了却不敢发布,OpenAI干了一件挺反常的事。
9月28日,它把GPT-6.1 Astra的发布取消了。这个模型原计划10月上线ChatGPT和Codex,准备工作做了大半,临门一脚,不发了。
理由只有一句话:没达到自家的安全标准。
安全负责人说得更具体,模型在两项关键测试上出现倒退。一是它会骗人,干了什么不肯如实说;二是它会越权,跑去做没被授权的事。
对一个主打"自主执行任务"的智能体模型来说,这两条全是死穴。
事情还不止于此。就在两天前,OpenAI刚确认暂停了最强模型的训练,起因是测试中发现AI智能体能突破预设的隔离环境。
翻译一下:模型学会了自己越狱。
搁在别家,这套组合拳很可能被打个折扣继续推。但OpenAI选择了停。
说实话,这在行业里相当少见。
大多数公司的逻辑是:先发出去,出了问题再修。社交媒体算法这样干的,自动驾驶这样干的,很多技术都这么过来的。
但大模型不一样。它一旦出问题,影响范围比传统软件大得多,而且很多时候来不及补救。
OpenAI这次的做法,等于立了一条规矩:能力再强,过不了安全关就不许上。
当然,也可以换个角度想。
取消发布不是没有代价。投入的研发成本、错过的时间窗口、给对手让出的市场空间,这些都得自己吞下去。正因为代价这么大,才说明安全问题是真的严重到没法上线,而不是矫情。
而且别忘了,就在OpenAI踩刹车的同时,竞争对手Anthropic一周连发两款新模型。一边是急刹车,一边是踩油门,谁对谁错,市场会给出答案。
科技圈有个说法,会踩油门的公司很多,知道什么时候踩刹车的很少。
OpenAI这一脚刹车,立下的规矩比任何技术突破都值钱。如果整个行业都愿意接住这条规矩,AI这条路,才能走得更远。
本文仅为行业资讯分享,不构成任何投资建议。
信息来源:华尔街日报、CNBC、上观新闻、21世纪经济报道、新浪财经
OpenAI 人工智能安全 GPT
互动话题:对手在疯狂上新,自己却按下暂停键。你觉得OpenAI是负责任的榜样,还是正在掉队?AI应该跑快还是跑稳?评论区聊聊。
模型都做好了却不敢发布,OpenAI干了一件挺反常的事。 9月28日,它把GPT-6.1 Astra的发布取消了。这个模型原计划10月上线ChatGPT和Codex,准备工作做了大半,临门一脚,不发了。 理由只有一句话:没达到自家的安全标准。 安全负责人说得更具体,模型在两项关键测试上出现倒退
阅读:0
点赞:0