昨天《华府圈内》提到，Anthropic和OpenAI的离职AI研究员科克森警告称，这两家科技巨头正在“拿我们的生命赌博”。Anthropic周四发布长篇报告警告称，那些听起来像科幻噩梦的AI威胁，已远比人们想象的更接近现实，有些甚至可能已经存在。报告称，犯罪黑客团伙、某些国家的情报部门以及也门的武器制造商等等，利用一个由欺诈账户和在线服务构成的网络，访问了该公司一些先进AI助手Claude，试图利用这些工具来发动攻击或设计武器。Anthropic还表示今年以来已阻止多起潜在阴谋，涉及多国政府和科学家利用先进AI模型进行可能有助于开发生物武器的研究。

与此同时，OpenAI首席执行官萨姆·奥尔特曼在科罗拉多州爱迪生电气协会的会议上会见了能源行业高管，提出由OpenAI提供网络安全服务以加强对电网的保护。此前有消息披露，AI平台Hugging Face遭到数百个AI代理的攻击，这引发了人们对关键基础设施可能遭受攻击的担忧。国会参议员乔什·霍利（参议院国土安全委员会灾难管理分委会主席）正在调查OpenAI对Hugging Face遭入侵事件的处理情况，并要求奥尔特曼在10月1日前作出回应。参议员特德·克鲁兹表示，参议院商务委员会可能会在参议院下周复会后着手处理AI监管问题。

图片来源于网络