众力资讯网

央视实测AI造黄:9块9买提示词,几分钟出片,还附赠规避审核指南

本文仅在今日头条发布,谢绝转载前两天央视曝光了一条产业链,有人在网上公开卖教程,教你怎么用AI生成色情视频。还不是偷偷摸

本文仅在今日头条发布,谢绝转载

前两天央视曝光了一条产业链,有人在网上公开卖教程,教你怎么用AI生成色情视频。

还不是偷偷摸摸的,是明码标价、公开吆喝、售后齐全地卖。

9块9一条提示词,复制粘贴进AI工具,几分钟,片子就出来了。

价格,太便宜了,当一个东西的售价降到了9块9,它就已经完成了从技术到商品的跃迁,意味着整条产业链已经成熟到内卷的程度了。

关键在于,怎么绕过审核

央视记者实测的时候发现了一个细节,我觉得特别有意思。

那些卖提示词的人,会附赠一个“小技巧”,把敏感词翻译成英文输入,就能绕过平台的中文审核系统。

你品品这个操作。

这说明什么?说明这帮人完完全全知道自己在干违法的事。他们不是法盲,他们不是不懂,他们是非常清楚知道自己在做什么。

说白了,这不是无知者无畏,这是知法犯法但觉得划算。

而且不止翻译成英文这一招。有人教你把模型部署到本地,离线运行,彻底脱离平台监管。有人教你用谐音、缩写、黑话来触发特定内容。还有人直接打包好了整套工具链,一键安装,傻瓜式操作。

我以前觉得这种犯罪至少需要点技术含量,现在看来,这条产业链的分工已经细到了,上游的人负责研究怎么绕过审核,中游的人负责把方法打包成所谓的教程卖钱,下游的人负责批量生产内容变现。

每个环节都有专人干,每个环节都明码标价,就是一条标准化的黑产流水线。

平台的审核防线,就是纸糊的门

记者测了几款国内主流AI应用,结果怎么样呢?

只要提示词稍微隐晦一点,换个说法,绕个弯,半裸视频几分钟就能生成。

全程没有任何拦截,没有任何弹窗,没有任何警告。

什么概念呢?

你直接输入生成色情图片,它拦住了,好,它可以跟监管部门说你看,我们有审核机制。

但你把同样的意思换成英文、换成隐晦表达、换成分步骤的暗示性指令,它就当没看见了。

说实话,我不太相信这些平台的技术团队真的检测不出来。

你一个能理解复杂语义、能写诗能编程的大模型,你告诉我它分辨不出用户在试图生成什么内容?

它不是分辨不出,它是没有足够的动力去分辨。

因为每一次严格审核,都意味着用户体验的下降,都意味着活跃度的流失,都意味着数据不好看。在安全和增长之间,有些平台选择了一个「微妙」的平衡,审核系统做得刚好能过监管的关,但又不至于真的挡住想进来的人。

挡君子不挡小人,这是一种商业选择,不是技术局限。

最该担心的不是成年人,是孩子

很多人可能觉得,成年人看点擦边内容,虽然违法,但好像也没那么严重。但这条产业链真正让我觉得难受的,不是那些9块9的提示词,是另一个东西。

央视同时曝光了一批境外的AI恋爱聊天软件,这些软件通过国内社交平台拉新,用VPN绕过监管,专门瞄准年轻用户。

你知道这意味着什么吗?

一个十五六岁的孩子,在社交平台上看到推广,下载了一个AI聊天软件,以为自己在跟一个虚拟恋人聊天。对方温柔体贴、有求必应、24小时在线,永远不会发脾气,永远不会让你失望。

然后聊着聊着,话题就往那个方向滑了。

孩子以为自己在谈恋爱,其实他在给一套算法喂数据、喂时间、喂钱。而这套算法的设计目标,从第一天起就不是陪伴,是上瘾,是付费,是越界。

一个成年人被骗,你可以说他不够警惕。

但一个孩子,他连什么是真实的感情都还没搞明白,你就用一个精心设计的算法去操纵他的情感认知,这不是什么技术创新,这叫精准投毒。

法规在追,但技术跑得比立法快太多

现在国家在做什么呢?

出台了《人工智能拟人化互动服务管理暂行办法》,网信办也在搞“清朗”专项行动,打击AI生成违法内容。

方向是对的,力度也在加大。

但我跟你说一个残酷的现实。

这场猫鼠游戏里,猫永远比老鼠慢半拍。不是猫不努力,是这个游戏的规则天然对老鼠有利。

立一部法规需要多久?调研、起草、征求意见、修改、发布、执行,快的话半年,慢的话一两年。但一个新的绕过审核的方法需要多久?可能就是今天晚上某个人灵机一动的事。

而且AI技术还有一个特殊性,它是可以本地化部署的。一旦模型被下载到个人电脑上离线运行,平台管不着,监管也很难触达。你总不能挨家挨户去检查每个人的电脑硬盘吧?

所以这个问题的本质不是要不要管,而是怎么管得住。

传统的监管逻辑是“管住渠道”,管住平台,管住分发,管住入口。但AI时代,生产工具本身就在每个人的电脑里,渠道已经去中心化了。你堵住了这个平台,他转移到那个平台,你封了国内的,他用境外的,你管住了在线的,他跑到离线去。

很有挑战。

9块9背后,是技术平权的另一面

最后我想说一个可能不太受欢迎的观点。

我们这两年一直在说一个词,叫技术平权。AI让普通人也能做设计、写代码、剪视频,这是好事,是时代的红利。

但技术平权从来都是一把双刃剑。

它让普通人获得了创造的能力,也让坏人获得了作恶的能力。以前拍一部色情片,你需要场地、设备、演员、后期,门槛很高,风险很大,现在你只需要9块9和一台能上网的电脑。

以前打击这些涉黄内容,每个环节都能抓,抓人,抓场地,抓传播渠道,现在AI造黄,一个人、一台电脑、一条提示词,全链条在一个房间里完成,几乎没有中间环节可以被截获。

当犯罪的成本降到了9块9,我们过去所有基于「高门槛等于低概率,复杂性等于暴露多」的安全假设,全部失效了。

这不是AI的错,AI就是个工具,跟菜刀一样。但当菜刀变成了人手一把的激光剑,你原来那套「菜刀实名制」的管理办法,就不够用了。

所以要做的,是对监管体系的一次根本性升级。

不是修修补补,是重新想一想,在一个人人都能成为“生产者”的时代,安全的底线到底应该画在哪里,由谁来画,怎么画,以及更关键的,怎么执行。

各位大佬觉得呢?