众力资讯网

Muse这瓜,属于是全行业一起开了眼

最近Personal Agent这个赛道热度真的压不住。九月份Meta推出Muse,引爆讨论,再到十月,国内灵光、千问陆续传出Personal Agent进入内测,大家都在期待AI从单纯回答问题,进化到可以落地帮人执行真实任务。

热度之下,这起意外也把 Personal Agent 走向真实世界后最棘手的安全问题,提前摆到了台面上。一位科技博主测试Meta Muse,让他帮自己在Facebook Marketplace上卖一个二手键盘。结果Muse不仅自己谈了价格、安排了取货,还把他的家庭住址直接告诉了陌生买家,全程没有再次确认,买家直接上门,真吓人啊,海外AI圈关于代理安全的讨论也炸锅了。

这件事暴露的核心问题不是AI犯了错,是当Agent获得你的授权后,边界在哪里?它代表谁?能做到哪一步?什么时候必须回头问你?账号和支付凭证又该怎么保管?目前这些问题都没有标准答案。

这也让国内即将上线的Personal Agent产品面临同样的拷问。比如灵光,最近有科技博主爆料,他们的Personal Agent功能上线在即,蚂蚁安全团队也在参与身份、授权和风控相关方案打磨。虽然灵光还没正式发布,但安全团队提前介入,说明行业已经意识到:以后评价一个Agent,不能只看它多能干,还得看它的边界清不清楚,控制权是不是始终在用户手里。

从行业角度看,Personal Agent的爆发是必然趋势。AI从工具变成助手,再变成代理,每一步都在深入我们的生活。但Muse的“翻车”其实是个好事情,它提前给所有人敲了警钟,Agent的权限管理比模型能力更重要。对比互联网早期,先有应用爆发,再有安全补丁,现在Agent时代,安全更需要前置。

总的来说,Personal Agent确实让人兴奋,技术往前跑的时候,控制权不能交给AI。好用是目标,但可控,才是Personal Agent能走远的底线。期待灵光能交出一份既聪明又让人安心的答卷。

#PersonalAgent#MetaMuse#灵光#个人助理