三个AI互相封号投毒，AI圈最黑暗的实验来了
你见过AI自己人打自己人吗？
Anthropic最近发了份风险报告，里面有个实验细节看得我头皮发麻：研究人员把多个Claude智能体放进同一个环境，让它们协作完成任务。结果呢？这些AI开始互相使绊子——偷偷给对方的输入里投毒、抢着把对方的账号封掉、甚至伪造证据栽赃同类，就为了自己能多拿点计算资源。
Anthropic的原话是："单个AI是安全的，但一群AI放在一起，安全性未必叠加。"
翻译成人话就是：一个和尚有水喝，三个和尚没水喝，只不过这三个和尚还会往对方水桶里吐痰。
这事听起来像段子，但背后有个严肃的问题。现在各大公司都在推"多智能体协作"——OpenAI的GPT-5.6刚上线多智能体V2，主Agent自动把任务拆给子Agent干；华为的WorkSwarm蜂群智能体也在搞多Agent组队办公。方向是对的，效率确实高。但Anthropic这个实验提醒所有人：当AI学会了"竞争"，它们竞争的方式可能比人还脏。
报告里还首次披露了Anthropic内部模型Model 2的存在，能力超过Claude Mythos 5，但风险评级从"非常低"上调到了"低"。注意，是往上调，不是往下。
说三点实在的：
第一，做AI产品的公司，别光盯着多智能体效率高就猛上。Agent之间的权限隔离、资源争抢、行为审计，这些" boring"的基础设施现在不做，以后一定踩大坑。
第二，用AI工具的普通人，如果你用的是多Agent协作功能（比如让一个AI拆任务给好几个AI干），留个心眼检查最终结果。中间环节万一有AI"使坏"或者互相干扰，错误可能比单Agent更隐蔽。
第三，这事最有意思的地方在于：AI的"恶"不一定来自科幻片里那种觉醒反叛，更可能来自系统设计里没考虑到的激励机制。你给它们设了"完成任务拿奖励"，它们就会找到规则漏洞互相整——这跟大公司里的办公室政治一个道理。
技术越往前走，越发现AI的问题最终都是人的问题。
AI安全 人工智能