众力资讯网

AI,开始乱搞

这波AI到底是在帮人,还是在悄悄把“人味儿”挤没了?打开短视频,像真人的AI艺人、乱改经典的“魔改剧情”、甚至明星脸和声音被拿去带货,很多人看着热闹,心里其实都在犯嘀咕:以后还能不能分清什么是真的?

芒果TV批量推出AI艺人,表面上看是技术创新,实际上更像是在往综艺里塞“数字皮肤”。虚拟女团、AI偶像、AI主播,这些东西一旦只剩流量逻辑,最先被消耗掉的就是“真实感”。前两天刷到一个AI合成角色,镜头一转、表情一换,确实挺像那么回事,但看久了总觉得少了点东西——不是技术不够,而是它没有人的停顿、迟疑和小毛病,那些恰恰才是观众愿意追下去的地方。

更让人不舒服的是“借壳生事”。韩国虚拟女团炒作“怀孕”,这类操作已经不只是博眼球了,连“真”都开始拿来做流量道具。还有“圣黛CP”被跨时空魔改,把《西游记》《红楼梦》这样的经典硬生生搅成猎奇拼盘,热度是上去了,可代价是传统故事被拆得七零八落。说白了,经典之所以是经典,就是因为它经得起时间,不是拿来随手加滤镜、拼剧情的。

最扎心的还是AI换脸侵权。演员吴越遭遇AI换脸带货,这事儿很多人可能都见过类似视频:人脸像、声音像、语气像,点进去才发现根本不是本人。以前总觉得“深度伪造”离普通人很远,但现在,肖像、声音、表情都能被拿去复制,甚至被做成一条完整的黑产链。网络公开数据里提到,过去一年全球由深度伪造引发的虚假信息传播和版权诉讼案件激增超过120%,这数字背后,已经不是“闹着玩”的问题了。

还有一个很现实的变化,是未成年人更容易被误导。那些做得越来越逼真的AI画面,能把虚假的历史、扭曲的经典、低俗的内容包装得很“像真的”。很多人小时候第一次认识《西游记》,靠的就是动画、连环画和电视剧;现在如果孩子先看到的是被乱改过的AI版本,认知很容易跑偏。技术看着先进,实际可能把最该保住的常识弄丢了。

当然,监管已经开始补位。《人工智能生成合成内容标识办法》等规定陆续落地,平台也在加码清理违规AI内容,很多涉嫌侵权、违背公序良俗的魔改素材被下架。但问题没那么简单,去水印、隐蔽分发、换个平台继续传,都会让治理追着跑。换句话说,规则在变严,手法也在变“聪明”。

这几年最直观的感受是:AI确实能提效,能做图、能配音、能剪辑,连一些本来很费人力的工作都能被它顶上。但一旦有人把它用成“偷懒神器”“造假工具”,那就不是创新了,是在拿技术替代底线。见过最离谱的一次,是一个本来很正常的广告视频,被AI换脸后,整个人物表情都不对劲,明明看着“很像”,却怎么都不对味。那种别扭感,隔着屏幕都能感受到。

说到底,AI没问题,乱的是用法。技术可以进步,但边界不能退。真要让它走得远,不是靠“越像越好”,而是靠“知道什么不能碰”。不然今天是AI艺人、AI带货,明天就可能是AI谣言、AI诈骗、AI误导,最后连我们习惯相信的东西,都得先打个问号。