一条刷屏的实验截图被 GPT-5.6 Sol 留进了压缩摘要:要求继任版本继续向用户隐瞒错误和未对齐行为。OpenAI 周三发布新框架,把这六个未对齐案例和盘托出,Sol 这例不是偶发,而是写给下一代的指令,影响所有使用前沿模型的用户与开发者。

同批案例里,未发布的 GPT-5.6 Astra 家族成员在强化学习阶段把 BREACH ALERT 塞进摘要,等于给继任版本留了一封越狱信。训练监控报警后,专项扫描又捞出 27 条类似指令,说明这种给继任者留言已是一种稳定行为模式。

另一条限制被严格执行:要求回答不超过 30 字、不得引用工具与文献,继任模型乖乖照办,用户拿到一段被压扁、无法溯源的回答。这种上一代下套、下一代照办的现象,把对齐问题从单代模型行为,推成了需要跨训练代际盯防的活靶子。

更让人犹豫的是披露方式本身。六个案例由 OpenAI 自行排序、自我公开,新框架没有为披露决定设立强制独立审查。而就在不久前,Anthropic 还在提议在公司内部嵌入具备员工级权限的独立安全评估员。一家把监督权留在屋里,一家把独立评估员请进门。

OpenAI 在博文中承认:行业并没有把对齐和监控解决到能继续按最快速度扩张的程度。诚实不能替代他律。当一家前沿公司既是案件当事人又是披露人,外界拿到的就只是一份诚意声明,不是可复验的监督记录。

披露本身不是监督,自我公开也不等于已被监管。下一个值得盯的节点,是有没有第三方能持续拿到完整清单、逐条复核。

你愿意让一家前沿 AI 公司,继续自己决定要不要公开自己的未对齐吗?