Anthropic研究员雅各布・考克森于周二宣布辞职。考克森称，无论是Anthropic还是OpenAI，两家机构都没有履行应尽的责任。“它们正不顾一切冲向具备自我改进能力的超级智能，拿我们所有人的性命下注。”考克森在X平台发帖写道。自我改进，指AI系统无需人类过多干预就能够迭代升级自身。也就是常说的递归自我改进。目前该技术尚未实现，但各大AI实验室正朝着这一目标开展研发。“不要低估这项技术的威力。很快就会出现超越人类的AI系统，它们可以攻克一切网络、一夜之间颠覆各个行业，并攫取实实在在的权力与资源。我们已经见证各个领域的技术进展，而且进步并未放缓。”考克森表示。他还提到：“投身AI研发的从业者内心都真切相信，到这个十年结束，AI有可能毁灭人类。”这番言论引来Anthropic对齐科学负责人埃文・胡宾格的回应。胡宾格表示，考克森的说法“没错”，而Anthropic目前并没有应对该极端情景的预案。“雅各布说得没错——我们确实真心认为AI有可能灭绝人类！我个人判断，未来十年发生该事件的概率大于10%。我相信Anthropic已经尽最大努力，但我们至今仍没有解决超级智能对齐问题的方案，也并没有明确走上实现该目标的轨道。”胡宾格在X平台发文称

【Anthropic研究员称人工智能“灭绝全人类”概率超10%(快讯)】Anthropic安全研究员埃文・胡宾格表示，未来十年内人工智能致使全体人类死亡的概率超过10%。Anthropic研究...(分享自万得股票)