众力资讯网

美AI高管称害怕自己造的东西Anthropic前研究员Jacob Coxon,也

美AI高管称害怕自己造的东西Anthropic前研究员Jacob Coxon,也曾任职OpenAI,他在9月公开辞职时直言,这两家公司都没有负责任地行事,正一头扎进能自我改进的超级智能,拿我们的生命冒险。

他强调,行业内部许多人对AI可能导致人类灭绝的担忧是认真的,私下恐惧甚至更强。Anthropic内部安全研究员Evan Hubinger随后回应,个人估计未来十年内AI毁灭人类的概率超过10%。但是并非所有人都认同末日叙事,部分业内人士承认机器终将更聪明,但认为风险可控或被夸大。

这些表态反映出行业内部真实的张力:顶尖从业者既推动技术爆发式进步,又对潜在后果高度警惕。是否最终导致有效监管或研发放缓,目前仍不明朗——各实验室公开呼吁慢下来,实际进度却未见明显刹车。