众力资讯网

天天喊着“该管管AI”的三家公司,决定自己建一个“监管局”

9月23日,纽约联合国总部,奥特曼和阿莫代伊出现在同一个会场里,一个坐在现场,一个连着视频。他们对着安理会十几个国家的代
9月23日,纽约联合国总部,奥特曼和阿莫代伊出现在同一个会场里,一个坐在现场,一个连着视频。他们对着安理会十几个国家的代表说,AI的风险是真的,各国政府得赶紧出手,得立法,得建国际标准。奥特曼要的是“衡量能力、评估风险、判断保障措施够不够、保住人类有效监督”这一整套国际标准,阿莫代伊提了三条,禁止用AI造生物武器,建立能互相核查的评估体系,再加上共同的测试标准和事故通报机制。
第二天,9月24日,The Information报道,这三家公司——谷歌、OpenAI、Anthropic——正在自己攒一个机构,暂定名“前沿AI标准局”,英文缩写SAFA。启动时间定在今年年底或者明年年初。报道里最要紧的一句是,这个局计划独立于政府运作。
前一天求政府来管,第二天自己管。中间隔了一个晚上。
SAFA要干的事一点不虚。它不打算做那些挂在墙上的伦理原则,它要做测试和审计的具体规则:模型正式上线前由第三方做安全测试,AI公司出了安全和网络安全事件按什么规矩上报,各家实验室以前自愿作出的安全承诺翻译成能落地的条款,还有一条分量最重——谁有资格当独立审计机构,由它来定。
这个主意7月14日就冒出来了。谷歌DeepMind的哈萨比斯那天公开提议,美国应该主导成立一个前沿AI标准机构,参照美国金融业监管局的模式。金融业监管局管着华尔街,全称FINRA,它是自律组织,头顶坐着美国证监会。哈萨比斯的意思很清楚,别新设联邦机构,让行业自己管。从7月开始,三家公司的代表定期碰头,做工作组。
他们本来想讨个更好的位置。最早的设计是行业主导、联邦监督,公私合作。方案一度进过白宫,甚至讨论过用行政命令来建。卡在两处。一头是AI行业内部自己没有共识,另一头是政府没兴趣。白宫那份行政令草案在特朗普政府内部拿不到足够支持,夏天结束前就被搁下了。白宫还回头给三家公司开了个条件,想让政府正式进来,你们先把行业共识做出来。这个条件到现在没实现。工作组于是换了条路,先自己干。


人事那部分最能说明这批人想把这个局摆在哪。据报,CEO一职接触过克里希南,这人做过a16z的普通合伙人,2025年1月到2026年6月是白宫AI高级政策顾问。另一个被考虑的CEO人选是普拉巴卡尔,拜登时期的白宫科技政策办公室主任。主席候选名单上出现过前国务卿康多莉扎·赖斯和投资人戴维·弗里德伯格。科学顾问的候选里有METR创始人贝丝·巴恩斯,还有保罗·克里斯蒂亚诺。巴恩斯所在的METR上个月刚做完Hugging Face那起事件的独立调查;克里斯蒂亚诺既是商务部人工智能标准与创新中心的顾问,又刚被任命进OpenAI基金会的董事会。报道里补了一句,名单上有些人还没收到正式邀请,也没人说得清谁还在认真考虑。
真正值得琢磨的不是谁当CEO,是这个局手里攥着什么。它自己负责制定一件事,什么模型够得上“前沿模型”,需要接受它的监督。Meta眼下可能在评估范围之外,部分开源模型企业也是,只要能力到了它划的那条线,就得进来。谁划那条线,谁就攥着这门生意的入场券。
绕一圈得回到9月23日那间屋子。那天在场的不止奥特曼和阿莫代伊,抱抱脸创始人德朗格也去了,他发言时提到自家公司为了抵御网络攻击用了中国的AI模型,理由是那个模型受到的约束比美国同类产品少。主持会议的法国外长巴罗说,AI能力的开发速度必须跟人类理解、评估、控制风险的能力同步,各国要在联合国框架内共同制定规则。白宫科技政策办公室主任克拉齐奥斯代表美国发言,说前沿技术的快速发展不能成为按下暂停键的理由。同一天,特朗普在联大讲话里明确反对限制AI,还宣布美国政府文件今后用“超级智能”取代“人工智能”这个词。
一个由三家公司攒的局,要在这些话之后落地,背景音就是这个。
政府确实不动,白宫行政令搁置,国会中期选举前难有新的AI立法,空档是真的。政府反过来把门留了条缝,白宫那句“先争取行业共识”既是条件,也是推着他们往前走的手。建局对头部有利,标准写得越具体、审计做得越细,成本就越高,小团队最缺的恰好是扛成本的人。


万斯9月14日那句“特洛伊木马”,说的是企业借监管抬门槛、挡小对手,这话放在SAFA身上格外贴。黄仁勋9月23日在《纽约时报》的播客里把话讲得更直,“当你们要求监管时,就不应同时要求豁免现有规则”,他反对AI公司拿“安全合作”当名义去要反垄断法或产品责任法的豁免。还有一个结构性的事实,FINRA之所以有合法性,是因为它头顶坐着美国证监会,SAFA头顶没有人。它想拿到法定的监管权,可能得像FINRA一样先在某家政府机构注册。


OpenAI和Anthropic据报讨论过一项协议,互相开放商用模型让对方做漏洞和异常行为测试,同时限制评测期间拿到的数据留存。竞争对手互查模型,听着比建局更实在。
普通用户该记的是那件事本身,管AI的规则,现在由被管的人来写,写得好不好先不论,谁坐在桌上看得见。打工人眼前多了一条路,第三方审计、安全测试、事故报告,这些活要人来干,标准一旦立起来,会养出一批新岗位。创业者得算另一笔账,同一份测试和审计,大公司是一道流程,小团队可能是一堵墙。股民手里的Anthropic正在冲IPO,“我们自己管自己”这套说法,写进招股书是加分项,监管真动手那天也可能变成风险项。
我觉得行业自己把测试和审计做起来,比把承诺挂在官网上强。问题在另一头,这套规则由谁定、向谁负责。三家最领先的公司给自己划一条线,再宣布全行业都得站到这条线后面,这件事本身就需要外面的人盯着。联合国那间屋子里,奥特曼说最重要的决定不能只由旧金山的实验室作出。隔了一天,旧金山的实验室自己建了个局。
你信不信这个局能管住造局的人,评论区聊聊。