央视曝光黑产用AI假脸过平台人脸核验,江苏仪征案36人获刑,涉案723万,你的自拍就是原料。
“提供一张照片,就能帮你突破人脸识别验证。”
这不是段子,是江苏一个犯罪团伙在网上公开打的广告。央视网10月25日报道了这个案子,判决数字都摆在明面上:36人获刑,非法获利547.8万元,涉案金额723万余元。
我第一反应居然是算账:原料是一张自拍,成本约等于零;成品能通过平台验证,卖的时候顶的是“你本人”的名头。这买卖的风险收益比,难怪有人前赴后继地干。
AI假脸是怎么过关的
把作案链条拆开,一共三步。
第一步,收集照片。社交平台上的自拍、合影,都是原料库。
第二步,AI合成视频。让静态照片学会点头摇头眨眼这一套动作——这些恰恰是平台活体检测要求的指令。等于考题公开,答案提前背好。
第三步,也是最要命的:虚拟相机。平台发起刷脸时,软件直接接管摄像头,把预先做好的假视频喂给系统。系统以为镜头前站的是你,其实是一段合成影像。
央视网报道里有个细节:单靠AI视频未必能通关,配上虚拟相机篡改设备数据,才是完整的作案套路。杭州市中级人民法院今年公布的案例就是这么干的——两个人收集他人照片,用AI生成动态视频,再篡改相机数据,突破了购物平台的人脸核验,盗走账户里的个人信息。
最荒诞的地方在这:平台设计一套动作指令,本意是确认“活人在场”;黑产照着指令定制视频,防伪考题成了造假说明书。
36人获刑:一条流水线
案子是2023年11月露头的。江苏仪征有人报案:亲戚用AI生成的动态人脸视频骗过识别系统,把他游戏账号盗了。
警方顺藤摸瓜,挖出一个特大团伙。业务不止游戏账号——据安全内参此前披露,微信、QQ和多地市场监管平台的核验系统,都是他们的攻击对象。据检察日报报道,这个团伙从2020年7月起就分工协作,有人收照片,有人做视频,有人接单过验证。
判决书上的罪名有两个:非法控制计算机信息系统罪、侵犯公民个人信息罪。
这条流水线其实一直在进化。2019年,换脸App“ZAO”上线,一键换脸火了一周就被监管部门约谈整改;2020年前后,“人脸识别第一案”第一次把刷脸的合法性问题摆上法庭。当时大家讨论的还是“脸会不会被滥用”,现在判决书给出的答案是:脸已经在黑产手里流通好几年了。
骗子换了打法:从骗你转账,到冒充你本人
以前的电信诈骗,得让你自己动手——用话术,用恐吓,冒充客服,目的是骗你转账。
这个团伙完全反着来:不联系你,直接变成你。
密码丢了,可以改。
脸只有一张,补办不了。
这就是这个案子比普通诈骗更值得上心的地方:账号被盗可以申诉,身份信息被冒用,纠缠的时间成本全压在你自己身上。
攻防还不对等。黑产只要攻破一次就赢了,防御方却得守住每一次。更麻烦的是,账号被盗好歹有个异地登录提示,你的脸被拿去过了什么验证,你连一条通知都收不到,等发现时往往已经是维权现场。当然也不是所有刷脸都一样脆:银行、支付平台和手机自带的3D面容识别,有红外和深度检测把关,难攻得多;真正薄弱的,是只装单目摄像头、只做基础活体检测的普通应用。
普通人能做的三件事
说点实在的。
- 管好自拍。高清正脸照少往公开平台发,技术上一张正面高清照片就够黑产开工,这是本案验证过的。
- 关键操作加一道锁。转账、改绑手机号这类动作,尽量开着短信验证或二次确认,别嫌麻烦。
- 别把刷脸当万能锁。人脸方便,但“刷脸绝对安全”这句话,眼下没人敢打包票。重要账号的验证方式,别全押在一项上。
监管也在补课。去年6月起施行的《人脸识别技术应用安全管理办法》,对人脸采集最小化和备案都收紧了。往后这类判决,只会多不会少。
有个时间点我特意查了下:2023年11月报案,团伙2020年7月就开始运转。三年多,没人觉得不对劲。
你的脸现在还躺在哪些平台的数据库里,没人说得清。
关注码哈鱼,AI的坑,我替你先看一眼。
朋友圈的高清自拍,你是公开还是三天可见?看完这篇想改设置的,评论区扣个1。