凌晨3点左右，演员吴越在社交平台上发布了一条动态，并且里面充满了愤怒的情绪。

早上醒来之后，她发现自己被人工智能盗用了肖像、声音，并且用来做起了带货生意，于是就直接向幕后的人群发出了警告，要求他们把非法所得全部归还给她。
该账号名为“花姐美肤日记”，所发布的AI视频非常逼真。画面上假冒吴越的样子在大力推销护肤品，并且编造理由说这是吴越自己看上的产品，为了感谢粉丝和厂家一起降价促销，鼓励大家多买一些，甚至还说孕妇可以放心使用。

虽然视频角落里有小字注明含有AI生成的内容，但是字体很小。普通的观众看到这个视频的时候，第一印象就是明星的形象，会忽视掉提示信息，认为这是真正的艺人正在直播推销商品，很多消费者就是这样被诱导着去购买。更加恶劣的是，该账号还使用同样的方式伪造了邓亚萍等体育明星的带货片段，并且批量制造出虚假的广告内容。

事件发酵之后，平台很快处理了此事，把涉事账号永久封禁，并且把账号内的所有视频都删除掉了，现在已经无法找到该账号了。但是账号被封停并不意味着问题已经完全解决，已经被诱导进行消费的普通消费者，在维权上仍然会遇到很大的困难。
近几年来，AI换脸、声音克隆的技术门槛越来越低，仿冒名人的带货现象也屡见不鲜。很多艺人踩过雷，曾经有个演员亲眼目睹了AI盗用自己的形象进行直播，并且还在质问的时候被拉黑了。骗子利用人工智能技术以较低的成本大批量制造假广告来蹭公众人物的人气从而获取流量和销售。

从法律的角度来看，未经本人同意而盗用肖像、声音来进行商业宣传的行为已经构成了对肖像权和声音权的侵犯。如果利用伪造的内容来虚构产品的功效，并且骗取了大量的消费者的金钱，涉案金额达到标准的话就会触犯到刑法。只有一条很小的AI提示是不能作为侵权方的免责理由的。
网信部门之前就已经开始了专项整治工作，并且主要针对的是AI合成虚假音视频、制造虚假人设带货等网络乱象进行打击。但是技术更新速度很快，平台审核和监管治理仍然存在着滞后的情况，无法做到全部提前拦截。
对于普通的老百姓而言，在刷短视频的时候如果看到了明星突然开始推销一些小众、陌生的产品，那么千万不要冲动地进行购买。不能只相信一条视频，要到艺人的官方账号上查证，并且要看清楚产品的资质，以免被人工智能制造出来的消费陷阱所欺骗。
人工智能本来是用来为人民服务的工具，不应该成为犯罪分子用来谋取利益、进行违法犯罪活动的手段。账号被封禁只是一开始，被诈骗走的钱能追回来吗？那么以后类似的人工智能假冒问题又该如何防止呢？#吴越怒斥AI换脸带货##A|换脸#​