一位名叫Jacob Coxon的年轻研究人员从Anthropic辞职了。

此前三年，他先后在OpenAI和Anthropic参与大模型预训练。他在辞职时发出警告：这些公司正在奔向能够自我改进的超级智能，这项技术“可能在2030年前杀死我们所有人”。

这条消息的浏览量超过了1.5亿。

更引人注意的是，Anthropic仍然在职的对齐研究负责人Evan Hubinger随后公开表示，Jacob说得没错。

他个人认为，未来十年人工智能导致人类灭绝的概率超过10%，而人类至今没有找到控制超级智能的可靠办法。