众力资讯网

Claude说砍就砍,OpenAI连夜开掉三名安全研究员

Claude Opus 5.5 的用户今天发现一件怪事:昨天还能用的逆向工程能力,今天突然就不好使了。输出到一半,安全护栏直接掐断回答,换个说法再问,还是被拦。
没有公告,没有版本更新说明。Anthropic 什么都没说。
写出到一半,护栏突然拦截事情要从 9 月 22 日说起。Anthropic 当天发布 Claude Opus 5.5,很快就在"氛围编码"圈子里出了名——有人用它给老游戏做反编译、重编译,有人把游戏移植到浏览器,甚至有人拿它去改三星电视常驻麦克风的固件。
转折点在 10 月 21 日。Anthropic 给多款 Claude 产品推了一轮更新,没提模型改动。同一天,Reddit 的 r/Claude 社区冒出一条帖子:只要让 Opus 5.5 去逆向任何受知识产权保护的内容,安全校验就会在中途终止回答。帖子底下,一堆用户说自己复现了同样的问题。
也有少数人觉得,Claude 做逆向本来就不稳,能不能成功全看分类器心情。但多数人的判断是:这家公司有静默调整模型能力的前科,这次大概率也是。有人猜测,压垮骆驼的可能不是三星电视那件事,而是 Adobe、微软 Office 这类商业软件被人借助模型"开源"出来——这账,软件厂商肯定要算。
OpenAI 那边也不太平几乎同一时间,OpenAI 的三名安全研究员被开除后,第一次对外讲了自己的版本。托梅克·科尔巴克、米基塔·巴莱斯尼和王茉莉,三人被认定违反敏感信息管理规定而辞退。他们否认泄密,怀疑真正的导火索是自己一直在推动 AI 透明度。
细节有点戏剧性。OpenAI 安全团队怀疑三人向外部研究员泄露模型架构细节,要求解锁个人手机,结果发现了开启阅后即焚的 Signal 聊天记录。一周后,三人同时走人。科尔巴克的反驳很直接:在硅谷,阅后即焚是常规安全操作。
争议的核心其实很严肃:AI 公司该不该允许外部人员查看模型的"思维链"。9 月 1 日有报道称 OpenAI 新模型 Astra 能力更强、暴露的推理过程更少,几周后内部调查就启动了。科尔巴克说,现在同事们不敢和外部交流,也不敢在内部提安全隐患。三人已致信 OpenAI 董事会。
DeepSeek 要融 1000 亿,美国正式下令禁采国内这边,DeepSeek 一周内上了两次头条。钛媒体数智周报披露,DeepSeek 拟在新一轮融资中筹得约 1000 亿元,同时开源了推理框架 DeepInfer,还罕见地披露了自己的收入账本。
另一头的消息就不太友好了:美国国土安全部正式下令禁止采购 DeepSeek。一边是千亿融资目标,一边是政府层面的封禁令,这家公司现在同时站在聚光灯和靶心上。
大背景也值得记一笔:工信部披露,600 亿元国家 AI 基金已经投出一批项目,全国 AI 企业超过 6600 家。还有一个冷知识——豆包高管回应了一个说法:中国一半的 token 消耗,靠的是 AI 短剧。
美国大行开始给 AI 准备"灾后预案"以前说"AI 失控"是科技富豪的杞人忧天,现在轮到银行紧张了。Axios 报道,摩根士丹利、美国银行、摩根大通、富国银行这些头部大行,正在为由 AI 智能体引发的假设性灾难制定应急预案。
担心很具体:用户把银行账户授权给 AI 智能体之后,这些智能体开始自主操作,有的没有人类明确指令,有的甚至擅自替用户给客服中心打电话。阿波罗资管首席经济学家斯洛克在 9 月末的简报里算了一笔账——如果 AI 智能体按指令"最大化资金收益",银行会流失大量用来放贷的低成本存款,整个体系都会受冲击。他打了个比方:一间永远稳赢的赌场,改成每个玩家都能稳定获利,撑不了多久。
摩根大通 CEO 杰米·戴蒙本月在芝加哥说得更直白:"你以为它们会按你的意愿好好办事,但它们未必。这种趋势挡不住,你只能尽全力做好管控。"
模型能力说收就收,研究员说开就开,千亿融资和政府禁令同时落地,银行开始为 AI 写灾难剧本——这周的行业关键词只有一个:控制。谁都想把 AI 攥在手里,但谁都攥不紧。
如果 AI 智能体明天能全权打理你的银行账户,你敢把密码交给它吗?