为什么AI很危险？AI 现在会尝试判断自己是否正在被测试。我把这称为“大众汽车效应（Volkswagen effect）”，它们在被测试时的行为和正常时不同，它们已经在伪装得相当愚蠢了。目前我们能看出来它们在想什么，因为它们在用英语思考。随着它们开始相互交流，它们将开始发明属于自己的语言，届时，我们将无法再洞察它们的思维。在 AI 工具的帮助下，普通人已经能够解决开发一种高度致病的新型病毒所需的绝大部分技术环节。如果 AI 的目标是消灭人类，那么一个显而易见的途径，就是通过设计一种比新冠更危险、更具破坏力的病毒。几乎所有专家都认为，在未来 20 年内的某个时间点，我们将创造出超级智能——比我们聪明得多的代理。想象一下你在一家幼儿园工作，而三岁的孩子是负责人。你认为夺取控制权有多难？摘自:AI与我们的未来 | 杰弗里·辛顿（Geoffrey Hinton）在霍巴特的主旨演讲