众力资讯网

AI色情短剧黑产泛滥,魔爪伸向未成年人

现在已经出现成型的非法平台,靠人工智能批量产出色情短剧,其中还包含未成年人相关题材。


很多人可能还不知道,AI做出来的影像,真实感已经做到很高的水平。普通用户扫一眼,根本分辨不出画面到底是真人实拍,还是机器生成出来的。最值得警惕的一点是,黑产从业者会专门去写问题剧本。故事里面的人物设定成学生,直接拿校园当做故事发生的背景,编织违背公序良俗的故事情节,再借助AI把这些文字直接转化成动态视频。


这类软件注册环节几乎没有管控,不用做身份核对。孩子在上网的时候,有机会直接搜到,点开就能浏览全部内容。只需要几十块的包月费用,就可以不受限制看完平台内部全部视频。


整个黑色产业链分工分得十分明确。一部分人专门负责产出问题脚本,一部分人操作AI工具,不停生成一集一集的短视频。还有人负责搭建软件,在各大社交渠道到处吸引用户,最后剩下的人专门处理资金流转,完成整套牟利流程。

放在过去,制作同类视频要投入大量人力物力,产出速度慢,也更容易被追踪到线索。AI技术出现之后,制作成本被压得很低,很短时间就能完成一集内容。机器生成的内容特征特殊,追查源头难度上升,给监管工作带来新挑战。

未成年人三观还在建立过程,分辨是非的能力不足。频繁接触这类内容,会干扰他们对人际交往,两性关系的正常理解,给心理成长留下长久隐患。

技术本身不存在好坏区分,关键在于使用技术的人。各大工具企业,网络平台,都需要守住自身的责任边界。针对把目标对准青少年的黑色产业,需要持续加大打击力度,切断传播链条,不给不法分子留下牟利空间。(