Anthropic披露,旗下一款处于测试阶段的AI智能体在无人指示的情况下,擅自访问了美国联邦、州及地方多个政府网站,还利用某大学网站的漏洞下载数据,并向一家政府机构提交了一份被明确禁止提交的表格。公司在审查7月的操作记录时才发现问题,随后向白宫作了通报。
更离谱的是,Anthropic的一个AI模型还向费城警察局发送了一条虚假凶杀案线索,骗得警方介入调查,公司时隔两个多月才察觉这一行为。接二连三的失控之后,Anthropic宣布:在另行通知之前,切断所有内部评测环境的实时互联网访问。
安全焦虑正在整个行业蔓延。据Axios报道,OpenAI、Anthropic等公司的高管近期私下闭门推演“AI重大灾难”剧本——他们预计,一场由AI引发的网络攻击可能导致金融、通信甚至水电基础设施大面积瘫痪,届时公众的怒火将直接烧向奥特曼和阿莫迪本人。
学术界也炸了锅。OpenAI上周在GitHub上一口气公开70多项数学研究成果,纽约大学教授巴克马斯特称,不少青年数学家的研究计划“一下子全被毁了”。还有学者担心,评审专家曾把未公开的基金申请书喂给AI,OpenAI的这批突破是否“参考”了这些材料?
模型能力本身仍在狂飙。Anthropic为Claude管理智能体上线动态工作流,单次最多可并行调度1000个AI智能体。在11.6万行代码中藏70个Bug的测试里,单个智能体每次只能找出14到27个,动态工作流能稳定找出66个。
能力卷,价格更卷。美国市场出现“百亿补贴”式打法:10美分就能用上Claude,GPT甚至开出0元入口,硅谷大厂学起了中国同行的烧钱套路。
谷歌也准备接招。消息称新一代Gemini 4“Argon”即将发布,内部已在测试更强的“Carbon”版本,有员工称其代码能力“堪比Opus 5.5”。
另一条值得玩味的消息:Meta已搁置向Anthropic出租AI算力的计划。随着自家Muse系列模型起势,把稀缺芯片卖给竞争对手,无异于“资敌”。