AI圈最近就“末日论”吵得不可开交，但这并不是空喊。作为AI发展乱象的美国，是该好好反思AI监管问题了。
事情源于Anthropic前研究员考克森的公开离职信。他先后供职过OpenAI、Anthropic，离职信中发出了明确AI安全警告，两家美国AI头部企业为了竞争而不加节制的自我改进超级智能、拿人类安全去赌。
而前些时候OpenAI模型在隔离测试里突破沙箱、打进Hugging Face生产系统，GPT-6 Astra网络能力已被自评为“关键”级，虽然有OpenAI自己炒作成分，但其AI的技术能力的确已经有了明显进步，不得不引起监管重视。
但作为美国总统的特朗普却表态：“不担心灭绝，只担心AI发展不够快、美国赢不了竞赛”。
作为科技观察者，我认为这种AI发展的“唯速度论”有巨大隐患。AI是人类发明的最伟大的工具，其本身并没有主观恶意，真正危险的是两条：
一是能力跑得太快、对齐和审计没跟上，智能体拿到浏览器、代码、数据库后能自寻漏洞、跨系统协同；
二是滥用门槛越来越低，换脸诈骗、批量谣言、网络攻击、生物风险都可借大模型降低成本，甚至普通人都可以成为黑客。
技术无善恶，但设计者和使用者必须怀有敬畏之心。
所以我不反对发展正常AI，而是反对无节制狂奔。“人在前面飞、魂在后面追！”
前沿模型应按能力分级发牌，失配即披露、第三方审计、危险能力限权等。递归自我改进设冻结线。智能体调网、调生产系统必须留痕可溯源。国家做分类分级，国际做跨国核查，别等出大事再补规则。
美国作为AI大国，更应该自我表率，担负起人类共同的责任，而不是仅仅为了“赢得比赛”。
把对AI的安全监管和对使用AI的人的安全监管，同时做起来，这样AI才是工具。否则AI发展越快则越危险。