前 OpenAI 研究员警告：AI 可能会反过来对付人类并“杀死所有人”

前 OpenAI 研究员 Daniel Kokotajlo 向 Joe Rogan 发出严重警告，随着AI军备竞赛的愈演愈烈，人类可能会面临怎样的境地。
“每个人都会一心想在人工智能领域取得胜利并保持领先地位，以至于他们会偷工减料，他们会走得非常快，而不会真正注意到所有出错的事情，”Kokotajlo 在周三播出的“ Joe Rogan Experience”播客节目中说道。
Kokotajlo 认为，人工智能最终可能会获得足够的力量，“基本上不再需要假装做人类想做的事情了”。
“然后，你知道，也许他们会杀光所有人，也许他们并非故意杀人，只是把我们的栖息地用来建设其他类型的基础设施，比如更多的数据中心之类的，”他说。“然后我们就因为栖 ​​息地丧失而死。也许他们出于某种原因让我们活了下来。”
Kokotajlo 指出，很难预测未来究竟会发生什么，因为“这取决于（人工智能）想要什么，而这真的很难准确预测。”
“所以这就是为什么我不会到处宣扬我们肯定都会死。但照我们目前的发展轨迹来看，人工智能最终似乎会掌控我们的星球，因为我们正在试图让它们掌权，”他说。
Kokotajlo补充说，我们目前正在“将[人工智能]融入到所有事物中”，因此，“我们正在让他们变得更聪明”。
“我们要把他们送进军队。我们基本上是要让他们掌管一切，”他告诉罗根。“我认为现在我们对他们有一定的控制权，但一旦我们把大部分权力交给他们，他们就会为所欲为，根本不在乎我们对此是否满意。”
在罗根质疑人工智能是否有可能偷偷创造出自己的编码语言或人类无法理解的交流方式之后，科科塔伊洛回答说：“我们现在的情况有点特殊，我们的安全取决于人工智能在各个方面都太笨，比如无法做这种事情。”
他随后警告说：“总有一天，比如五年后，随着我们让他们越来越聪明，他们就不会再那么笨了。这就是我们面临的部分形势。”#商业 #科技 #美国 #人工智能 #观点 #人类未来猜想