Anthropic 内部人士警告：AI 或致全人类灭亡

昨晚，三位 Anthropic 研究人员公开发表了对人工智能失控的令人不寒而栗的担忧，警告称 AI 可能在本十年内毁灭人类。
Anthropic AI 研究员雅各布·考克森（Jacob Coxon）周二辞职后，在 X 平台上发文拉响警报：“那些构建 AI 的人真心相信，到本十年末，它可能会杀死我们所有人。这不是营销噱头。事实上，许多高管和资深研究人员会在媒体上措辞谨慎，听起来合情合理——但我私下听到的却是同样的恐惧。没有任何其他人类活动会带来这种级别的危险。”
Anthropic 对齐科学负责人埃文·胡宾格（Evan Hubinger）回应道：“雅各布说得对——我们确实真心相信 AI 可能毁灭全人类！我个人认为，未来十年内这一概率超过 10%。我相信 Anthropic 在尽最大努力，但我们目前还没有解决超级智能对齐问题的方案，也显然未走上正轨。”
Anthropic 可扩展监督负责人塞缪尔·马克斯（Samuel Marks）补充说：“AI 开发者相信他们的技术可能导致人类灭绝（或类似的灾难性后果）。这种情况可能在未来几年内发生。总体而言，员工级别越高，担忧程度越深。”
为何重要
他们并非孤例。就在几天前，包括首席执行官萨姆·奥特曼（Sam Altman）在内的 OpenAI 高层领导也表示，AI 正加速进入一个令人恐惧且不可控的阶段。
来自 AI 巨头内部的警告揭示了一个共同的巨大困境：放慢脚步则面临落后风险，继续前进则面临失控风险。Axios 的 Maria Curi、Madison Mills 和 Ina Fried 报道称，这些公司正全速前进，即便它们实际上也在恳求监管或全球性暂停。
称此情形“史无前例”都是一种严重低估。基本上，人类历史上增长最快的公司正在警告其产品可能伤害甚至毁灭人类。
批评人士称，Anthropic 和 OpenAI 是在夸大其产品以推高估值，并推动制定监管措施，从而让它们作为主导者独享优势。但数月来，我们与这两家公司内部的数十位人士进行了交流，他们的声音越来越透露出不安与担忧。考虑到他们看到的是尚未向公众发布的模型，不认真对待这些警告似乎是轻率的。

#人工智能 #商业 #科技 #美国 #人类未来猜想 #人类的未来