凌晨三点,你正睡得香,演员吴越却气得从床上坐起来,直接发文开撕——有人用AI把她的脸和声音“偷”走,拿去直播带货骗钱。她点名喊话幕后操作者:把骗来的钱,吐出来!还撂下一句狠话:性质太恶劣了。
你可能会问:AI换脸不是早就有了吗,至于这么大动干戈?
至于。太至于了。
因为你以为的“明星带货”,可能从头到尾都是假的。
就在前不久,有网友爆料,某平台上冒出一个“刘德华”直播间,用AI合成的华仔形象卖洗发水。嘴型对不上,声音像机器人感冒了,但架不住中老年粉丝认脸啊,一晚上流水哗哗的。再往前翻,靳东的脸被拿去跟大妈“谈恋爱”卖保健品,杨幂、迪丽热巴的脸轮流上阵带假货。
有数据摆在这儿:2024年上半年,国内涉及AI换脸侵权的投诉超过2000起,直播带货占了将近一半。这还只是被发现的,没被发现的呢?
成本低到你想不到,赚钱快到你想不到。
一套AI换脸加声音克隆工具,网上几百块就能搞定,操作简单到“有手就行”。有运营者私下炫耀:“用明星脸开播,一晚上顶普通人干一年。”而被盗用的明星呢?发律师函、取证、打官司,一套流程走下来,骗子早就注销账号换个马甲继续干了。
吴越这次为什么这么大火气?
因为这压根不是恶搞,是诈骗。观众冲着“吴越推荐”四个字下单,买到一堆劣质货,钱进了骗子口袋,黑锅却结结实实扣在吴越头上。她在动态里说得明明白白:“你们骗的是信任我的人。”这话一点不夸张,中老年观众对明星脸天然信任,AI一合成,他们根本分不清真假。
更扎心的是,这把火迟早烧到你我身上。
今天被盗脸的是明星,明天就可能是你。一张照片、一段语音,就能合成一个“你”去借钱、去骗亲戚。到时候视频里“你”说得有鼻子有眼,你浑身是嘴都说不清。
平台管不管?法律管不管?
好消息是,国家已经出手了。2025年9月新规落地,要求AI生成内容必须打标,直播平台得实时监测换脸行为。坏消息是,道高一尺魔高一丈,骗子永远在找下一个漏洞。
吴越凌晨三点这一嗓子,喊的不只是她自己的委屈,是给所有人敲了一记警钟:AI时代,眼见不一定为实,耳听也可能是假的。
最后问你一句:你刷到过那种“明星脸”直播吗?当时你信了没有?评论区说说,帮更多人避坑。