人工智能实验室的效率持续提升。 在这种情况下，人工智能的开发将高度自动化，但人类仍然负责设定研究方向并评判结果。随着时间的推移，使用人工智能系统的组织将变得更加高效，因此我们可以预期，组织中每个人的生产力都将得到显著提升。100 人的公司就能完成 1 万人甚至 10 万人的组织的工作量。

这将彻底改变知识型工作和政府服务，但也可能被用于有害的目的，例如对全体民众进行威权监控，或开展针对每个人的、规模庞大、任何人类团队都无法企及的影响行动。像 Anthropic 这样的公司中，人类的角色也将发生转变。人们将与人工智能系统合作，扩大研究规模并产生新的见解，并共同构建验证人工智能输出可信度所需的系统。

人工智能系统本身将具备完全递归式自我改进的能力，并开始构建其后代。 如果技术进步的趋势持续下去， 人工智能系统能够发展出人类变革性创造力所固有的能力，那么人工智能系统就有可能进行自我设计和改进。

Anthropic发现，AI再这么进化下去，他们研发AI都不需要人了。