Anthropic称已阻止多起可能利用AI研发生物武器的尝试

Anthropic表示，它已封禁多个账户，这些账户使用该公司的人工智能模型的方式可能支持生物武器开发。
在周四发布的一份报告中，这家以Claude模型闻名的AI公司表示，它认为生物滥用是人工智能模型面临的“最严重风险”之一。
新报告概述了五个真实案例。在这些案例中，用户“绕过”了阻止特定地区用户的控制措施，并“采取其他手段混淆其研究目的，以规避我们的保障措施”。这些例子包括可能的“功能获得性”研究，涉及禽流感等传染病，以及新型毒液和毒素。
Anthropic表示，在审查30天的活动后，它识别出约35项“不同研究活动”具有潜在令人担忧的行为。但它承认，无法确定这些行为者“意图伤害”，还是出于合法科学目的进行研究。 #人工智能 #商业 #科技 #美国 #AI