众力资讯网

【张捷杂谈】| AI仿真人脸识别个人隐私数据系统性风险

AI 生成仿真视频绕过人脸识别核验的现实案例出现,让生物特征识别的安全隐患再度进入公众视野。有观点早年就提示人脸识别存在重大风险,在 AI 技术快速迭代的背景之下,相关系统性风险正在持续放大,呼吁社会应当审慎推广刷脸应用,重视生物隐私保护。

据央视网 25 日报道,杭州中院公布一起刑事案件:两名不法分子在网络搜集他人照片,借助 AI 技术生成包含点头、摇头、眨眼动作的动态视频,再通过篡改相机数据,成功突破购物平台人脸核验机制,盗取用户个人信息。

分析指出,人脸、指纹这类生物识别信息和密码类信息存在本质区别,生物特征具备不可更改属性。一旦人脸、指纹数据发生泄露,用户无法像修改密码一样更换自身生物特征;即便通过整容手段,也很难改变底层生物识别特征值。同时人脸信息在定性上,究竟归属于普通个人信息还是高等级隐私,过去行业内部也曾产生争论。

人脸识别系统本身存在技术固有的矛盾:误识率与拒识率无法同时做到最优。如果把核验标准设置得极为严苛,虽能降低 AI 仿真骗过系统的概率,但用户自身状态发生变化,例如熬夜、发胖、妆容改变,就会频繁出现识别失败,大幅抬升正常使用的拒识率。

针对市面上声称可以检测 AI 伪造内容的技术,观点提示其存在局限性。现有鉴别工具大多针对主流大模型生成的内容提取特征进行判别;倘若犯罪组织自主搭建、调参训练专属小型 AI 模型,生成出来的伪造人脸视频,现有检测手段就很容易失效。

风险不只局限于个人账户。指纹是刑侦办案的重要证据依据,如果犯罪分子可以批量伪造指纹膜,会直接冲击指纹证据体系的可信度。而人脸识别被广泛运用于账户登录、支付、工商变更等诸多场景,系统默认核验通过即代表本人操作。相关侵权行为往往时隔很久才被发现,受害者想要自证并非本人操作,举证难度极大。

生物数据泄露带来的连锁威胁还在升级。除了仿人脸视频,AI 声音合成技术已经成熟,未来犯罪分子还可以伪造当事人视频通话,制作伪造不雅视频实施敲诈勒索。依托大数据,诈骗分子还可以掌握大量个人私密信息,即便是通过问答核验身份的方式,也存在被攻破的可能性。

生物信息一旦向外泄露,想要重新隐藏难度极高,类似历史上身份证重号问题,修改需要联动海量社会系统,社会改造成本难以承受。随着黑客攻击、平台信息泄露事件时有发生,生物数据存在外流风险,为电信诈骗升级提供了条件。

相关观点建议,政策层面需要具备前瞻性,对于人脸识别应当走向慎用而非一味推广,平衡使用便利与安全风险。普通用户也应当提高风险意识,非必要场景下尽量关闭设备指纹、人脸识别功能,减少自身生物特征被采集的机会。