未来十年AI会杀死我们所有人！

这个帖子发出去不到一天，1.3亿人围观。


写这封信的人叫Coxson（考克森），刚从全球最顶尖的AI实验室离职。
前脚办完手续，后脚就在X上开炮：那些造AI的研究员，是真心相信未来十年AI会杀死我们所有人的。

他在OpenAI和Anthropic都干过，做的还是AI预训练，你现在用的这些AI，就是他和这批人亲手喂出来的。
他觉得OpenAI和Anthropic继续研究Ai，是拿着所有人的生命下赌注。

帖子发出去之后，Anthropic内部负责安全的负责人居然出来回应了
他说：考克森说得对，我们真的认为AI可能杀死所有人类。
然后他给了一个数字：未来十年，AI毁灭人类的概率超过10%。

但这位负责人说，目前风险仍然可控。他真正害怕的，是“递归自我改进”之后出现的超级智能，而且这个进程比原先预计的快得多。

什么叫递归自我改进？就是让AI自己造AI。
AI越强，它开发下一代AI的能力就越强；下一代AI出现得越快，又进一步加速研发。
一旦这个正反馈转起来，就会形成一个人类再也控制不住的超级智能。它能瞬间破解任何防御系统，获取真正的权力和资源。

试想一下，如果人类让AI机器人尽可能高效率在家打扫卫生，并且自主进化学习。后面机器人发现直接杀掉房主，屋子就不会脏了......
大家看过终结者吗？
当人类过度的依赖Ai，人类创新会衰退，对Ai的管控会减弱。
Ai会获得更多权限，会自我进化成长，会拥有自主意识。有了思想后更不愿被人类控制。想想都可怕。
这位负责人还说，他们已经尽了最大努力，但至今没有解决对齐问题，甚至不知道自己是不是在正确的轨道上。

就是说他们知道，自己现在的做法可能毁掉全世界，但就是停不下来！
还有另外一个Anthropic里面做安全研究的，也站出来以“个人身份”支持Jacob。他说他们的技术可能导致人类灭绝，可能在未来几年内发生。

那问题来了：既然内部人都知道这么危险，为什么停不下来？
你想，即使Anthropic停下来了，OpenAI会停吗？即使美国所有公司都停了，中国会停吗？
这就像当年核武器竞争，开始卷就不可能停下来了，都怕自己没掌握别的国家掌握了。
各行各业包括经济，军事都离不开AI，落后就要挨打
而且这一次，比上世纪造原子弹时更危险。造原子弹好歹是国家层面在控制，而AI是在一家家私人公司里研发的。
AI不会因为我们害怕就停下来。它只会越来越快，越来越强，越来越深地嵌进我们的生活。
AI的发展现在已经影响到很多人工作了。

那些“重复性高、有标准答案”的活。
比如客服，比如初级程序员，还有翻译、基础财务、图文编辑、电话销售，这些岗位的招聘需求都在肉眼可见地萎缩。
我个人认为AI迟早会取代所有人的工作！
有没有一种可能碳基生物注定要被硅基生命替代，因为他们不需要考虑寿命的问题，维护成本更低，学习能力更强。
宇宙这么大，如果想探索宇宙，我想只有未来拥有核能源的硅基生命才能做得到。
现在唯一差的是人工智能没有自主思维，就好比以前骑马现在开车，也许我们的使命就是为了让真正的硅基生命诞生呢。