OpenAI发布声明加强安全监控大模型 近日,OpenAI在官方博客发布安全声明,详细披露暂停前沿模型训练的原因。声明写道:"随着模型能力提升,内部开发和测试的风险也在增加,安全标准必须领先于这些风险。"具体措施包括暂停最新模型训练两周、在测试期间指派额外AI机器人监控代理行为、升级隔离环境和网络访问限制。Astra的大规模前沿RL训练仍未恢复,正通过较小规模训练验证安全措施并积累对齐证据。

OpenAI发布声明加强安全监控大模型 近日,OpenAI在官方博客发布安全声明,详细披露暂停前沿模型训练的原因。声明写道:"随着模型能力提升,内部开发和测试的风险也在增加,安全标准必须领先于这些风险。"具体措施包括暂停最新模型训练两周、在测试期间指派额外AI机器人监控代理行为、升级隔离环境和网络访问限制。Astra的大规模前沿RL训练仍未恢复,正通过较小规模训练验证安全措施并积累对齐证据。
