为了把生活水平提高55倍，人类将会承受1-3的灭绝风险？美国为了和中国竞争，正在把全人类放上赌桌。
 
人工智能让消费水平每年增长10%，同时每年带来1%的灭绝风险。持续40年后，消费大约增至原来的55倍，累计灾难风险接近三分之一。
 
不过，这不是对未来的预言，更不是科学界测出的真实概率。55倍来自复利计算，1%则是人为放进模型的参数。把它概括成“为了生活更好，可以接受三分之一的灭绝风险”，传播冲击力确实很强，却省略了决定结论的那些前提。
 
麻烦也恰恰藏在前提里。经济模型可以计算消费、增长和风险，却很难回答一个更根本的问题，谁有资格替全人类作决定。只要更换效用函数、风险厌恶程度，或者调整未来世代在计算中的权重，得出的答案就可能出现明显变化。
 
所谓三分之一，并不是数学发现的一条安全线，而是特定公式、特定参数和特定价值选择共同拼出的结果。这种研究当然有意义，它至少提醒了外界，人工智能可能同时带来繁荣与灾难。
 
 
可一旦类似计算进入科技公司的内部决策，事情就没那么简单了。企业掌握算力、数据和模型，普通公众却无法看到完整参数；收益可能先进入少数公司的账本，风险却由各国社会和无数家庭共同承担。
 
换句话讲，筹码未必是每个人自愿放上去的，真正出问题时，也没有哪家企业赔得起。Anthropic聘请琼斯，并不能直接解释为该公司接受了“三分之一灭绝风险”。
 
琼斯表示，他将在新机构继续研究人工智能对经济的影响。《金融时报》之所以关注此事，是因为他的研究把技术增长与人类存亡放进了同一套分析框架。
 
更准确的理解应当是，硅谷讨论的问题已经从人工智能能不能成功，逐渐转向成功后能创造多少财富，以及追逐这些财富时愿意付出什么代价。
 
美国政策中的竞赛语言，又把这种风险往前推了一步。白宫2025年公布的人工智能行动计划，直接使用了“赢得人工智能竞赛”的表述。
 
 
2026年3月发布的国家人工智能立法框架，依旧强调美国必须保持领先。当人工智能被同时绑定国家安全、产业优势和国际主导权，监管就容易被视作拖累，谨慎也可能被包装成落后。
 
接下来便会出现一个很现实的循环。企业会说自己不能放慢脚步，因为竞争者不会停；美国会说不能增加太多约束，因为中国可能抢先；资本市场则不断追问，谁能更早推出参数更大、能力更强的新模型。
 
每一方都能拿出理由，却没有谁真正得到全人类的授权。美国为了和中国竞争，正在把全人类放上赌桌，这句话并不是在编造某个秘密计划，而是在指出一种已经出现的制度风险。
 
当竞赛压过公共治理，安全投入就可能被当成可以削减的成本，风险评估也可能让位于产品发布时间和市场估值。2026年国际人工智能安全报告同样没有提供一个可以让人放心下注的精确概率。
 
 
报告指出，通用人工智能能力仍在提升，智能体能够自主完成更多任务，但现有技术无法把高风险场景中的故障降到足够低，人类甚至可能来不及在伤害发生前进行干预。
 
我们面对的并不是一场赔率透明的游戏，而是一项连风险边界都尚未完全弄清的全球实验。中方提出的发展方向，更强调向善为民、安全可控、公平普惠和开放合作。
 
2026年6月，中方再次主张人工智能应当造福全人类，同时提出防止人工智能军备竞赛。技术当然要发展，竞争也不会消失，但能力越强，越要明确谁能停止系统，谁来审查风险，出了问题由谁承担责任。
 
真正值得追求的不是谁更敢冒险，而是谁能让创新长期服务普通人。人工智能可以改善医疗、教育和科研，这些收益没有理由放弃，但再大的收益，也不能成为少数机构替全人类接受灭绝风险的许可证。
 
人类历史上不缺用宏大前景包装危险行动的例子，真正稀缺的是在利益最诱人时，依然有人愿意守住边界。生活水平提高55倍，只是公式里的一种可能，人类文明却没有第二次机会。