最近AI圈最火的事件,莫过于顶流女明星霉霉“不雅照”被全网疯传,没想到红遍全球的Taylor Swift再一次成为了Deepfake的受害者。
![](http://image.uc.cn/s/wemedia/s/upload/2023/de48cc80970bd37a036dd85d95fd027d.jpg)
△图片由Deepfake合成
今天七七就带大家一起唠一唠。
这事还得从大约五天前说起,几乎是一夜之间,外网的X、Facebook等社交平台,铺天盖地开始传阅一组让人浮想联翩的AI假照,浏览量高达上千万!
![](http://image.uc.cn/s/wemedia/s/upload/2023/382c5d9e080796ddef93b8302a0a7be0.jpg)
△图片由Deepfake合成
画面中是有心人士用Deepfake合成的——以球场为背景,以霉霉和多名虚构的橄榄球队“队员”为主角的露骨照片。
![](http://image.uc.cn/s/wemedia/s/upload/2023/20e377339186a3c56665c99204b33fcd.jpg)
△图片由Deepfake合成
为什么这组照片被很多人信以为真?
这其实和霉霉现在的恋爱有关系,霉霉的现任男友是美国NFL橄榄球运动员Travis Kelce,两人恋爱后霉霉经常去该球队做客。
所以有心人士用AI制作她与多名队名的虚假照片,就相当于直接借题发挥续写小作文,对于霉霉的声誉打击自然更重。
霉霉作为当红明星,也避免不了成为一些猥琐男想象的对象,而AI作为当前乃至未来最有潜力的技术,也成了衍生涩情的帮凶。
目前,涉及生成霉霉“不雅照”的外网账号已经被封禁,但事件的源头仍未彻底阻断。
甚至还有人企图以“自制”deepfake霉霉照片合集来敛财,要价1套10英镑。
![](http://image.uc.cn/s/wemedia/s/upload/2023/3e6a2a9ba2fac13411f2e3cd3fd2f68d.jpg)
那么合成这组图片的Deepfake又是什么呢?国内目前是否有使用入口?七七找了下,还真有:
搜了下度娘,不仅有中文网站,还能使用手机版,不过要想使用完整功能,需要开启个人资料授权,处于安全考虑,七七没有使用:
![](http://image.uc.cn/s/wemedia/s/upload/2023/1113d86549c959eb7648f3790d6c4a54.png)
![](http://image.uc.cn/s/wemedia/s/upload/2023/951ab88c6879dcf50e8f7ada8094447f.png)
甚至还有英文网站:
![](http://image.uc.cn/s/wemedia/s/upload/2023/ff4b83557929b20d60bb2efc3bed7c6d.png)
![](http://image.uc.cn/s/wemedia/s/upload/2023/b80677a7ea1dc053fdcb7ad23fa355d3.png)
Deepfake的AI变脸技术作为一项高能黑科技,大约是从2017年一炮而红,彼时它仅在出现第5天,就让无数人感到恐怖。
如今发展到2024年,八年时间,AI换脸技术有了更长足的进步。各种好用、易上手的程序软件让人目不暇接,比如现在广为应用的这13个:
![](http://image.uc.cn/s/wemedia/s/upload/2023/b7d5fe7a267100601e5d6d12e1a4bc33.png)
以其中一个深伪应用MyHeritage举例,它可以直接让一张照片变成动画,得到一个脸部、眼睛和嘴巴都在动的图像:
![](http://image.uc.cn/s/wemedia/s/upload/2023/23aabab79ba1c110e012a3453ae21a18.gif)
△图片由MyHeritage合成
这个DALL-E Mini工具则会利用人工智能模型,将一只皮卡丘和巴哥犬进行魔性组合:
![](http://image.uc.cn/s/wemedia/s/upload/2023/864c16f478058071646f430614e7b8d8.jpg)
△图片由DALL-E Mini合成
当然除了这些正经应用,还有很多不正经的,被用于满足“特殊癖好”。比如有人会利用Deepfake,将一些名人的照片进行换脸,比如饰演芭比的Magrot Robbie,成了某颜色网站的性感女郎:
![](http://image.uc.cn/s/wemedia/s/upload/2023/5dc0d9024e667e5cddac5d986443928b.png)
某颜色视频女主角的脸,被换成了一张明星的脸,于是得到了一个完整视频:
![](http://image.uc.cn/s/wemedia/s/upload/2023/31b7be0de70a5080c51d1c6b65e5b7d0.jpg)
△颜色演员跟Kate Mara和艾玛沃森换脸
还有人使用AI软件DeepNude,对漂亮女孩一键脱衣:
![](http://image.uc.cn/s/wemedia/s/upload/2023/c0033ad2e87b9973e0184a0e15d48363.png)
让人倍感恶俗的是,据说DeepNude只能处理女性照片,即使上传的是男性照片,软件处理后的显示部位也是女性,这就有点e心了。
女性被“精神侵犯”,男性也不能幸免。某男星被造谣果体视频,其实也是AI换脸造的锅:
![](http://image.uc.cn/s/wemedia/s/upload/2023/4247479e46361f7147aa2d88735d0a1e.png)
作为被Nature杂志评为“2024最值得关注的七项技术”之一的Deepfake,AI换脸技术引起了很多人的深思。
![](http://image.uc.cn/s/wemedia/s/upload/2023/67b664f2bb2bfc4121ed4b005b4867b0.jpg)
有人说AI换脸应该被封杀,以防更多人受到侵害,但对此七七想说,有错的其实不是AI技术,而是使用这项技术的人。
对此,Nature也在杂志中指出——让开发者在AI工具中加入隐形水印机制或许是一种方案。
![](http://image.uc.cn/s/wemedia/s/upload/2023/2c82824c3c8a7c6f210b4618c2775a70.jpg)
在AI已经盛行的现在,我们虽然还不能从根源上阻止一些人滥用Deepfake,但可以通过加强自身保护,防止别人滥用我们的照片,所以建议大家:
1、不要随意上传自己的照片和视频到网络,以免被不法分子使用。
2、作为AI的使用者,能够以身作则不伪造他人的AI图像。
3、发现AI的不法使用,及时举报减小损害。
你见过哪些AI换脸新招式?一起来聊聊