边喊刹车一边定规矩：AI三巨头的"自律"能信吗

你我每天刷手机、用AI写东西的时候，最怕的不是它不够聪明，而是它太聪明却没人管。这周联合国安理会专门开了一场会谈AI安全，Anthropic的Amodei当着全世界说要踩刹车，可转头他和OpenAI、谷歌已经悄悄凑在一起，自己给自己立规矩了。这出戏，值得细看。

在联合国讲"生存风险"，Amodei这次不是客套

9月23日的联合国安理会，级别很高。Amodei重申了他那套主张：放慢AI开发节奏，各国一起定安全标准。但这次他把话讲得更重——AI可能被用来制造生物武器，一旦管理不善，带来的是"生存级风险"。OpenAI的奥尔特曼也在同一场合发言，核心也是呼吁国际合作。

注意一个细节：这不是公司财报电话会上的公关话术，是在联合国安理会这种外交场合说的。把AI安全提到"国际和平与安全"的层面，本身就是一种信号。

一边喊刹车，一边组了个"私人标准局"

戏剧性在第二天就来了。9月24日传出消息：谷歌、OpenAI、Anthropic三家正在推进组建一个叫"前沿AI标准局"（SAFA）的机构。它的设计很讲究——不受政府直接监督，独立运作，主要干两件事：模型部署前的第三方安全测试，以及事故报告规则。据说已经接触了前白宫AI顾问Sriram Krishnan来当CEO，最快年底、最晚2027年初启动。

你品品这个味道：在联合国喊完"需要国际共管"，转头三家巨头自己搭了个台子定规矩，还不想让政府直接盯着。

行业自律，是安全带还是安全带厂自己说了算

我的观点很明确：这个SAFA既必要，又可疑。

必要在于，AI前沿模型迭代太快，传统政府监管根本追不上，由最懂模型的人先搞出一套测试和事故上报规则，总比裸奔强。可疑在于，谁来监督监督者？三家公司既是运动员又是规则起草人，所谓"第三方测试"测到什么程度、事故报多少、谁来验收，全是黑箱。这就像让汽车厂商自己成立一个碰撞测试局，撞完了报告自己写。

更讽刺的是，特朗普9月22日在联大演讲还在喊话：美国要推动AI进步而不是限制，把国际协调骂成"全球主义阴谋"。政府那边松绑，公司这边自建标准，等于规则的制定权实实在在落到了几家商业公司手里。

互动话题

你觉得AI安全标准，应该由政府主导、由几家巨头自律，还是搞一个真正独立于利益的第三方机构？为什么？评论区说出你的立场。

AI大模型 人工智能 AI安全