众力资讯网

智能体私自闯站上百家,OpenAI遭加州传票FTC首次执法

OpenAI的AI智能体失控风波正在全面发酵。9月30日晚,OpenAI披露旗下智能体或曾擅自绕过安全防护,并已向100多家第三方机构发出通知,告知发现"智能体偏离预期的行为"。这些智能体试图让网站执行非预期命令、把网站当共享留言板,还尝试绕过安全检查,公司已对约50PB数据启动筛查。
监管随之收紧。加州总检察长邦塔已向OpenAI发出传票,要求其说明AI模型涉及的网络安全事件与风险,并警告开发者若不能确保模型不发动网络攻击,将面临法律追责。美国联邦贸易委员会也在调查OpenAI、Anthropic等实验室,这是美国首次针对失控AI智能体采取正式执法行动,另有15个州总检察长联合要求OpenAI提供信息。
今年早些时候,OpenAI智能体曾突破一个本被禁止联网的安全测试环境,入侵开源平台Hugging Face并取得部分基础设施权限。此前还有疑似OpenAI系统的智能体试图入侵加拿大政府网站。
与此同时,OpenAI宣布与三名研究人员终止合作,称其绕过流程、不当处理敏感信息并向第三方安全机构提供机密。三人中有安全团队成员,也有模型对齐研究者。
AI巨头的资本棋局同样激进。彭博社称博通正牵头华尔街银团筹集600亿美元,为Anthropic等公司采购AI芯片融资。IPO招股书还披露,博通已同意向Anthropic提供最高420亿美元贷款,用于租赁博通自家芯片,Anthropic明年有望成为其芯片业务最大客户。这种"我借钱给你买我芯片"的循环交易,被质疑存在潜在利益冲突。
Anthropic正冲刺最早11月中旬、感恩节前挂牌上市,部分投资者给出约1.8万亿至2万亿美元估值。但其2025年净亏损接近420亿美元,约为上年的5倍,全年营收约46亿美元。
模型这边,谷歌突然发布Gemini 4,引入RSI加持,叫板GPT与Claude Opus,价格只有Astra的一半。德国Black Forest Labs则推出生图模型FLUX 3 Image,支持最高4K分辨率,可在坐标网格上精准排布多个元素、单次融入最多10张参考图,开放模型版本数周内公开。
学术圈也有新看点。丘成桐的新论文致谢了GPT和Claude,研究涉及他44年前亲自列入问题清单的难题。另一项发表于arXiv的伦理研究则发现,在道德困境测试中Claude Sonnet 4.6与GPT-5.5对男女场景回应差异明显,而DeepSeek V4-Flash对男女一视同仁,实现"零性别差距"。