在ChatGPT的光芒掩盖一切的这段时间，图像生成AI已经从从画画悄悄进化到了“画照片”。这种风格和质量的AI照片，还有很多在各大网络社区流传。有网友表示：AI聊天+AI照片，快进到AI网恋诈骗。而Cosplay风格的AI照片也让一些人感叹“商业Coser和摄影师可能双双下岗”。

事实上，已经有人开始利用AI的高效性来恶搞，甚至作恶了。最近一组“新任外交官”的图片刷爆全球互联网，人人纷纷猜测照片中人的身份，但在最后的答案揭晓却让所有人都不敢相信——AI居然进化到了如此地步。

凭空创造“真实美女”，竟没人发现真相

最近，全球各地的足球迷都在热切关注着一位新任日本“外交官员”。她的一只巨大的皮球，迷住了所有的足球迷。人们纷纷展开猜测，有人说她是名将的后代，有人说她是财团的千金，甚至是黑社会的孙女，一心想要通过不光彩的方式来取得一个政治地位。

但由于语言和文化差异，各种小道消息在非日本足球迷的网络圈内疯传。即使仅靠着几张照片，她也成功收获了上百万的粉丝。但是，当人们开始疯狂地搜索这位内阁女议员时，他们突然发现了一个令人震惊的消息：这所有的照片都是假的！这些照片是由一个发福利照片的博主用AI技术制作的。

然而，由于这个人物过于真实，和所伪造的角色如此的相符，才导致这些照片的传播。虽然事实最终被揭露，但这种对女议员和性感身材的理想化结合仍然证明了它对人们有着致命的吸引力。

目前，“AI美女”已经成为了推特上的一个热门标签。由于AI女议员的“一曲热传”，「AI川AI子」这个账号也借机发起了一项招募成员的活动，希望能够让更多的人加入进来。然而，事情的真相也让我们看到了现今人工智能技术的可怕。这种仅仅用几张照片就可以欺骗大众的虚假身份，让我们开始意识到这一领域中AI谣言的产生和传播是多么的可怕。

AI换脸防不胜防，诈骗陷阱如何防范

如果只是搞个恶作剧，那么还是好的了，问题是现在已经有人利用AI去为非作歹了。最近发生了一起AI诈骗事件。骗子不仅使用AI技术生成了朋友的声音，甚至连视频通话里的人像都是由AI生成的。有一个老板就因为AI诈骗把430万元一下子被骗走了。

还好最终，老板成功通过警方和银行追回了336万元，并及时止损。这是一个让我们警醒的事件，提醒我们任何事情都有可能是虚假的，自己身上的钱才是真的，一定要好好守住自己钱包的口袋。

现在，“AI换脸”技术在国际上也引起了强烈的关注。随着AI大模型技术的不断发展，这种技术得到了更广泛的应用。并且技术的不断突破也使得这种换脸技术能够更加真实地还原人物的表情、动作等细节，一旦被不法分子利用，可能会带来严重的危害。

一位制作者提供了一个使用视频来展示他的软件的示例环节。左手的窗口显示原始视频，右手的窗口则是经过“AI换脸”技术处理后的新视频。肉眼看上去，换脸之后“数字人”真的是非常的逼真，连连嘴型，表情和各种小动作也无一破绽。

在该软件开发者的销售页面上，该人提供了从初级（LV1）到超级（LV4）再到全套（LV5）的不同版本。初级套餐售价只有499元，提供软件界面、视频教程、换脸模型等功能。等级越高，能力也越强，换脸效果更为逼真。同时，不仅可以实现视频换脸，还支持直播换脸。甚至，软件开发者表示：“想换什么样的脸拿素材训练就可以。”

一位从事AI开发的技术人员表示，这意味着可能会有更多难以控制的风险。“集成文生图、文生文，文生音频、文生视频、换脸，这样的功能结合起来，就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’，监管成本和难度高了好几个数量级。”

因此，索菲亚认为，从长远来看，监管与处罚措施还需要随着技术发展不断“迭代”，才能形成立体有效的治理方案。