比起安全性，我更关心人工智能对社会的冲击

相对历史其他技术发展，人工智能到现在还是相对安全的。汽车，飞机，更别说炸药，发展到可普遍使用的水平之前搞死了多少人？

人工智能演化到今天，导致的生命损失有多大？大家对AI的担忧，目前还是由其能力演绎出来的，而非当下现实的威胁。做为对风险比较大条的人，我是真心不担心人工智能的安全性，我更关心的反而是其对社会结构的冲击。

西方文化有太强烈的末日想象，容易把社会注意力带偏。道高一尺，魔高一丈。再说，不行就可以先拔线嘛，虽然未来不一定拔得过它们。

有一点很重要，人工智能并非一个边界清晰的整体。相对来说，人类反而是。当大家说人工智能危胁人类时，很多人潜意识把人工智能当成一个有共同体意识的整体来坑害人类，但这在可预见的将来不存在的。

人类完全是可以用这些智能体来对付另一些智能体，那这跟机器的工具化或者武器化，没有太本质的区别，而不是说在人类帮人类的同时，智能体一定会去帮智能体。