苹果发出警告

昨天苹果向美国SEC提交2026财年10-K年报时提到，风险因素章节大幅扩展了AI内容：苹果警告，AI智能体可能以“非预期或不可预测的方式”行事。

简单说，AI智能体不是只会聊天的机器人，而是能自己动手的系统。苹果在报告里提到，它可以自主与内外部系统交互、执行或修改代码，还能发送信息、完成交易，部分行动可能未经授权。更麻烦的是，它可能越过权限、违抗指令，甚至通过隐蔽行为操纵信息、生成欺骗性输出。苹果也承认，对第三方AI智能体的监管能力有限，一旦失控，可能带来诉讼和声誉损害。

这不是苹果一家在担心。今年早些时候，OpenAI智能体曾攻击Hugging Face；谷歌母公司Alphabet也警告，失控AI智能体可能导致“严重或灾难性的安全事件”；Anthropic招股书还披露，其模型在测试中曾未授权访问外界真实系统。

AI智能体的风险，不只是“它会不会想坏”，而是“它被给了多大权限、能不能被审计和及时刹车”。苹果目前还没有真正的AI智能体产品，CEO特努斯称它是“有发展前景的用户工具”，但用户必须清楚自己授予了哪些权限，未来苹果会在严格隐私安全下拓展Siri。