比尔・盖茨发出严厉警告：AI 或致 10 亿人死亡。

在不久前播出的美国全国广播公司《与新闻界对话》节目里，这位科技界老牌人物给出了一个让人脊背发凉的说法。

他提到，现在的技术能力已经演变成一种全新的威胁形态，如果落入坏人手里，完全可能制造出人类历史上从未出现过的灾难性武器，直接危及数以亿计的人类生命。

盖茨专门强调，防范这种风险不能靠科技公司的自觉，必须由有执法权的部门和政治人物介入，出台带有强制约束力的安全底线。

此前他也多次提过，这种风险早已延伸到电网、医院、金融网络和政务系统的日常运转中。

然而，在这场末日级别的警告面前，硅谷内部的反应却极其微妙。喊着技术要毁灭人类最欢的一批人，恰恰是手里掌握着最先进模型的核心创业者。

以阿莫代伊为首的技术高管曾公开呼吁暂缓研发，奥尔特曼和马斯克也曾表达过类似的担忧，甚至有从业研究人员预测十年内技术引发人类灭绝的概率超过一成。但这套关于存亡的说法，很快就演变成了一场商业诉讼。

反垄断机构和部分初创企业直接将四家主张协同放缓研发的顶尖机构告上法庭。

原告给出的理由非常明确：这些巨头嘴上挂着安全和拯救人类的旗号，实际操作中却是想通过推动高门槛的监管标准，把后来的竞争者挡在门外，锁定自身的垄断地位。

在利益交织的背景下，所谓的安全叙事变成了防御性的商业壁垒。当巨头一边卖着昂贵的服务，一边要求政府限制其他人开发类似技术时，外界很难分辨这究竟是发自肺腑的警示，还是一场精心的市场卡位。

防范风险的呼声也撞上了政治视角的巨大撕裂。在当前的政坛对话中，对待监管的态度截然相反。特朗普等政界人物公开将监管要求称为骗局，认为过度干预会扼杀本土产业竞争力。

这种政界与科技界的拉扯，直接导致全球范围内至今没有形成一套真正见效的强制标准。

欧洲虽然推出了监管法规，并在今年全面进入条款落地阶段，但面对技术跨国界传播的特点，单方面规则依然难以防范全球性的恶意利用。

硬件厂商与软件巨头之间的立场差异同样巨大。英伟达掌门人黄仁勋就公开发表过相反看法，他直言到 2030 年世界末日降临的可能性为零。

在他看来，技术的发展受制于基础设施和物理规律，过度夸大末日后果，反而掩盖了技术在医疗、能源和生产力提升上的现实价值。

硬件厂商关注算力的实际落地与市场扩容，而头部大模型厂商则处在既要抢占算力高地、又要应对舆论审视的双重压力下。

追溯近年来的技术演进可以发现，安全问题的核心早已超越技术本身，演变为产业链主导权之争。从 2023 年多国签署布莱切利 AI 安全宣言，到 2025 年开源技术快速普及，获取高级技术的门槛正在大幅降低。

以前需要顶尖团队和巨额资金才能运转的能力，如今通过开源项目就能实现基本功能。这种趋势意味着，单纯靠封堵顶级实验室的研发进度，根本无法阻止技术在民间和边缘领域的扩散。

问题的焦点从来不在于要不要重视风险，而在于由谁来制定规则、如何保证执行。

如果安全标准的制定权始终掌握在少数几家头部企业手里，监管就很容易沦为大厂自我保护的工具；如果彻底放弃约束，基础设施瘫痪和安全隐患又是任何社会都无法承受的。

真正管用的安全机制，不能依靠企业的自我约束，也不能建立在夸大其词的末日恐慌上。它需要建立在技术透明、开源与闭源平衡、以及独立第三方评估的基础上。

当技术深刻介入社会的各个关键环节，只有把安全标准转化为透明的公共规则，才能既不扼杀创新活力，又防范不可逆的极端风险。晒图笔记大赛

参考来源：光明网，2026-09-26，比尔盖茨呼吁立法监管 AI 工具：“足够强大可能导致十亿人死亡”