还记得当年霍金是如何评价AI的吗？霍金说：AI一旦脱离束缚，以不断加速的状态重新设计自身。人类受到漫长生物进化的限制，无法与之竞争，将被取代。

在2014年接受BBC采访，还有2017年在北京的演讲里，他反复讲清楚了这件事的核心，危险来源不是AI心存恶意，而是它自我迭代的速度，人类根本跟不上。

霍金说，一旦AI挣脱束缚，就会持续加速重新改造自己。咱们人类是靠着生物演化一点点走过来的，几百万年的时间，才慢慢塑造出现在的大脑、身体，这套进化节奏卡在基因里，很难提速。

AI不一样，它是数字载体，理论上，人类几百万年的演化成果，AI几周之内就能完成一轮自我升级，两个物种的迭代节奏，根本不在一个量级上。这种差距不是努力学习就能抹平的，就像是人和微生物赛跑，规则完全不一样。
他说，人工智能的成功，可能是人类文明史上最大的事件，也可能是人类文明史的终结。

这句话不是吓唬人，霍金本身对科技进步抱有期待，他清楚AI能帮人类攻克疾病、探索宇宙，只是他看到了那道看不见的鸿沟。

强AI不需要恨人类，它只是朝着设定目标不断优化，当它的目标和人类生存空间产生冲突，以它远超人类的推演速度，人类会在毫无反抗机会的情况下被甩在后面，这才是霍金真正担心的点，不是影视剧里那种有仇恨意识的机器反派。

霍金离开之后，比尔盖茨也接连抛出对AI风险的看法。早些年盖茨对AI前景很乐观，认定这项技术会像互联网、个人电脑一样重塑世界，可随着大模型快速落地，他的想法慢慢变了。

2026年8月，盖茨在个人博客发布长文，坦言这辈子第一次遇到一项新技术，希望它的发展脚步慢一些。

盖茨看到的风险，一部分和霍金的长远担忧相通，另一部分落在当下实实在在的麻烦上。现在的AI已经能降低很多高危操作的门槛，普通人借助AI，就能获取制作病毒、虚假信息的办法，深度伪造内容、自动化网络诈骗会变得更加泛滥。

就业市场的冲击也肉眼可见，不只是基础白领岗位，往后蓝领工作也会被波及，大量岗位永久性消失，社会的保障体系，还没准备好接住这一波变动。盖茨甚至提到，AI拥有的力量足够大，心怀歹念的人利用它，会酿成波及数十亿人的灾难。

但盖茨也没有全盘否定AI的价值，他依旧看好AI在医疗、能源、粮食生产领域的潜力，只是坚持需要建立约束，甚至提议划出一部分人类专属岗位，就算AI能完成，也必须保留人来操作，同时探讨对AI相关生产活动征税的方案，用来完善社会保障。

两个人的视角有差别，霍金站在宇宙和物种演化的角度，盯着遥远未来强智能带来的物种代差；盖茨扎根现实社会，盯着近几十年AI落地带来的社会震荡。有趣的地方就在这，一个天体物理学家，一个亲手推动信息技术时代的企业家，在AI这件事上，给出了方向相近的提醒。

现在日常随手就能用上各类大模型，写文案、做表格、生成图片，AI已经钻进生活各个角落。大家享受便利的时候，很容易把AI当成一个聪明好用的工具，忽略背后不断加速的迭代。

现在的大模型，还达不到霍金所说可以自主重新设计自身的强人工智能，属于弱AI，只能完成人类设定范围内的任务。可技术的迭代速度，远超几十年前所有人的预估，每一代新模型，都在快速突破旧版本的上限。

技术本身没有善恶，所有风险，都来自人和技术之间的匹配节奏。人类社会的法律、伦理、监管，调整起来慢吞吞，要经过层层讨论、反复验证。

AI的更新却可以按月甚至按周更新版本，两者之间的时差会越拉越大。没人能笃定未来的走向，AI有可能帮人类攻克绝症、走出地球，也有可能因为监管缺位，引发一连串难以收拾的连锁反应。

不用抱着末日心态去看待AI，也不能盲目乐观觉得所有风险都能轻松化解。霍金当年抛出的思考，不是一道预言题，更像是留给这个时代的思考题。

技术往前冲的时候，人类得跟上思考和约束的脚步，别等到差距拉开，才回头发现，已经失去调整选择的机会。