最近几个AI巨头的员工都发文说担心AI有一天会灭掉全人类。不知道大家有没有想过这些担心。失去工作还是其次，人类能想出新工作。最麻烦的是制造武器。Anthropic 发布了一份长达一百多页的reacted risk report 2026，建议大家都去看看。里面写了一些他们发现一些人和机构进行的一些危险搜索并block了，但是block了并不能阻止项目的继续运行。

而AI公司之间的竞争不会停下来，包括开源模型和local 模型的竞争。你停下，成千上百的人继续做，哪怕是巨头联名签署协议放慢速度，仍然会有成千上万的个人继续开发。你不开发，恐怖分子继续开发。所以这个事情无解，就像潘多拉魔盒被打开。