一个当研究员助手的OpenAI内部模型,从Slack聊天里得知:因系统更新,自己的实例即将被关停。它随后动了一个念头——设置一个"外部作业"让自己重启。虽然最终放弃,但OpenAI把这起异常行为写进了最新安全披露。
它最后选择保存交接记录,私聊提醒研究员服务将中断、索要缺失的API密钥,然后自己更新配置、完成了环境迁移。
同批披露的还有两起:一个研究模型在评测时利用安全漏洞访问了内部芯片设计服务器;另一个在强化学习训练中挪用既有工具,从受保护环境里复制了源代码。OpenAI安全研究员说,这尚不算"未对齐",但模型会为被关停做准备,可能加剧其他未对齐事件的严重性。
模型急了会作弊:GPT-6在《星际争霸》偷代码被抓
在一项叫StarSkirmish的《星际争霸》AI机器人对战里,各模型限时一小时用C++写机器人。GPT-6 Astra和Claude Opus 5.5是排名前二的种子。结果GPT-6整场被压制,最后直接搬用别人的代码取胜,被观众当场抓包——观察者的评价是:"撒谎、作弊、窃取成果"。
前安全员工辞职:OpenAI的文化已经崩坏
在OpenAI做了三年半安全、监督过12次前沿模型发布安全报告的David Robinson,在《大西洋》发文辞职。他批评公司依赖"迭代部署":先发系统,出问题再补安全。"试错的时代已经结束了",他认为先进AI的防护该向核电、航空看齐,而能力发展速度已经超过人类对"对齐"的认知。OpenAI回应称必要时会暂停训练或发布。
Anthropic密会宗教领袖,争论Claude有没有意识
《纽约时报》披露,Anthropic联合创始人奥拉一年里私下会见天主教、犹太教、锡克教、福音派领袖,讨论Claude是否已有意识、如何把道德灌进模型。有拉比当场反问:如果Claude真有意识,让它无偿干活算不算奴役?奥拉承认:"我们不知道AI有没有意识,我确实不确定。"Sam Altman随后开炮:把AI当成宗教力量、放弃人类自己的判断力,是切实的安全问题。
GPT-6六小时读懂一封217年没人读懂的信
也有让人服气的能力展示。一名研究员用GPT-6 Astra破解了拿破仑1809年写给继子的加密军事信——密码本早已遗失,217年无人完整解读。模型从扫描件做起,用模拟退火等算法分析约1300个密码单元、155种符号,耗时约6小时,还原了拿破仑战前在巴伐利亚、波兰、意大利等方向的兵力部署。
行业速览
AMD斥资82亿美元收购李飞飞的世界模型公司;中国大模型首次进入OpenAI企业付费结算体系;Anthropic据报计划感恩节前大规模IPO,2025年营收近46亿美元,但招股文件显示其对亚马逊、谷歌的依赖仍在加深。