回形针和拿破仑，有什么关系？ - 文化资讯(众力资讯网)

如果我告诉你，回形针会毁灭世界，你肯定以为我在说梦话。那么，请读一读这一段文字： 💡哲学家尼克•波斯特洛姆，在他2014年的著作《超级智能》中，提过一个思想实验：我们想象一下，有一家回形针工厂买了一台超级智能计算机，工厂的人类主管要它完成一项看来再简单不过的任务：生产回形针，越多越好！ 📎结果，为了完成这个“终极”目标，这台回形针计算机征服了整个地球，杀死了所有人类，并派出远征队占领更多行星，再用取得的丰富资源在整个银河系设立无数个回形针工厂······ 💻从这台超级智能计算机的视角来看，它没有错，他只是为了完成设计者指定任务的结果，仅此而已；至于完成任务的过程，不是它所关心的；为了达成结果，可以牺牲掉过程中的所有资源，包括“造物主”人类······ 🤔在尤瓦尔·赫拉利看来，这种一根筋不考虑过程只注重“终极结果”的人工智能，是未来人类面临的巨大挑战之一。 📖对，就是写出风靡全球，畅销4000多万册的《人类简史》的那位尤瓦尔·赫拉利，他的另外一本大作《智人之上》，也将发售。 📚在这本新作中，尤瓦尔·赫拉利深度思考了诸如：当非人智能威胁到人类的生存时，人类如何做出明智的选择？人类如此智慧，为什么却总是倾向于自我毁灭？我们为什么走到了生态和技术自杀的边缘？ ······ 关于人类文明的过去、现在和未来，人类文明的终极走向、人类与人工智能如何共处等的问题，手头刚刚读完的这本薄薄的《智人之上》（试读本）都有涉及，且提出了令人意外的独到见解👍 📎说回本篇开头的话题，回形针，就像是当年拿破仑心中那个“终极目标”：可能，是让法国成为欧洲霸主；可能，是创造一个全新的多民族帝国；还可能，是让自己赢得永世荣耀； ······ 👑200多年过去，我们今天也只能猜测，甚至很可能，拿皇当初自己也搞不清自己的“终极目标”究竟是什么？ 😂既然如此，我们今天的人们，又如何为人工智能设定一个统一的、毫无争议的、毫无威胁的、肯定不会毁灭世界的目标呢？ 👏我是Pete，专注历史，感恩相遇。