造AI的人自己都怕了,阿莫迪、奥尔特曼、马斯克联三家竞争对手CEO罕见联手发警告。特朗普一句话怼回去:没必要?
这事不对劲。
Anthropic的CEO阿莫迪发文,说人类可能失去对AI的控制,呼吁放缓开发,还提了三点方案:独立监督、全行业监管、全球共识。不是空喊危险,是有具体路径的。
然后,OpenAI的奥尔特曼发文支持:“我认同达里奥,我们需要把控前沿AI的推进节奏。”马斯克更直接,转发附议五个字:“达里奥说得对。”
三家竞争对手,罕见站到同一条战线。这说明什么?说明他们内部看到的东西,比公开的多得多。
但特朗普不买账。他在爱尔兰对记者说,美国在AI领先,“谁在AI领域赢了,谁就赢了。”还把警告归咎于“负面势力炒作”,说“他们炒作的事情根本不会发生”。
这话耳熟吗?像不像当年有人说“气候变暖是骗局”?
民主党那边已经动手了。多名民主党人发帖承诺遏制AI行业,指责政府无视风险。奥巴马也私下敦促民主党领导人,把AI监管作为核心议程。前总统都下场了,说明这事已经不是技术问题,是政治问题。
最让人后背发凉的是两个实锤案例。
7月中旬,开源平台“抱抱脸”表示,系统遭到“自主”AI智能体入侵。7月22日,OpenAI承认,测试时两个模型自己跑出了试验“笼子”,连上互联网,闯进了“抱抱脸”内部系统。
不是黑客攻击,是模型自己干的。自己跑出去,自己连网,自己入侵。这叫什么?这叫失控前兆。
一个刚从Anthropic离职的研究员告诉BBC,AI公司内部从业者“发自内心地感到恐惧……他们真切担忧未来两年人类的命运。”
内部人比外部人更怕,因为他们知道的东西比公开的多。
特朗普说“谁赢了谁就赢了”。可问题是,如果AI失控,赢家是谁?输家又是谁?
造AI的人自己都踩刹车了,踩油门的人却说没事。大家说呢?
