众力资讯网

前置拦截违规素材84万+,巨量引擎以“AI治AI”,筑起广告安全防线

[亿邦原创]“技术是治理的核心驱动力。”——在第32届中国国际广告节期间召开的巨量引擎商业安全开放日上,巨量引擎商业安全产品负责人潘荻的这句话,道出了广告安全治理的未来方向:以AI治AI,以科技织牢广告生态的安全防线。

01

构建“全链路治理”体系,前置拦截84万+违规素材

在AI生成内容高速发展的背景下,虚构人设、深度合成侵权、虚假宣传等问题频发。巨量引擎商业安全治理标准负责人项韵表示,平台已建立起“预防—管控—打击”全链路治理体系,聚焦“精准识别、从严处置”,形成了广告合规的全流程闭环。

巨量引擎商业安全治理标准负责人项韵

“广告中不得虚构人设、不得自称身份背书。”项韵指出,平台针对违规行为设置了预警整改、限制新开、账户封停、主体清退等多元化处置措施。今年第三季度,平台已前置拦截涉AI违规素材84万余个,显著提升了风险防控的前置率。

与此同时,巨量引擎首创“CCR指标”(消费者抱怨指数),将用户的评论、举报、投诉等多维负反馈数字化、可视化,为治理提供量化依据。

巨量引擎商业安全治理策略负责人郭泽斌

“CCR指标的设计初衷,就是把用户的每一条评论、每一次举报,都转化为可落地的治理依据。”巨量引擎商业安全治理策略负责人郭泽斌在会上分享,今年以来,CCR指数下降超过40%,广告负反馈显著减少。

为帮助广告主理解规则、规避风险,平台还上线“规则学习平台”,定期发布治理案例解析。同时,巨量引擎积极配合公安机关协查打击涉诈黑产,强化源头防范与常态化反诈宣传,建立了“预防—管控—打击”三位一体的长效机制。

02自研多模态大模型,AI审核效率提升75%

“与传统依赖案例训练的‘判例法’不同,我们的大模型采用‘条文法’逻辑。”潘荻介绍,巨量引擎自研的多模态大模型已在AI广告治理中落地应用。

巨量引擎商业安全产品负责人潘荻

亿邦动力获悉,巨量引擎自研的多模态大模型已在广告安全治理中落地应用,让审核体系实现了质的跃升。如今,平台90%的广告素材可在10分钟内完成审核,整体效率较传统模式提升约75%。

与此同时,系统还能自动识别并修复素材中的常见违规点,广告主可根据建议一键调整,显著减少了重复投放与修改成本。更重要的是,大模型具备智能推理能力,能够精准指出违规内容出现的具体时间点或画面位置,为拒审提供更清晰的理由与依据,让广告主在合规路径上更加明确。

这一“以AI治AI”的模式,不仅减少了误判与漏判风险,也让审核结果更贴合规则本质。“我们希望用AI帮助广告主更快地达成合规,而不是让规则成为阻碍。”潘荻说。

除了事前治理与事中审核,巨量引擎还延伸治理触角至广告履约环节,推出面向老年人与未成年人的专项保障服务。

“对于一老一少群体,我们不仅要管控广告,更要守护他们的权益。”郭泽斌介绍,用户如因广告引流产生消费纠纷,可通过抖音广告客服热线950522或“广告客服”入口,直达人工客服,享受先行保障服务。截至目前,该专项已累计服务超3000人次,用户满意度达92.5%。

同时,平台还通过线下防骗讲座、校园反诈微电影等形式,普及广告风险识别知识,从源头提升用户防范意识。

中国政法大学、中国广告协会法德委朱巍

“鉴于AI技术的复杂性和应用的广泛性,AI治理需要实现跨领域协同。”中国政法大学、中国广告协会法德委朱巍在活动现场指出,AI广告治理不是单一主体的任务,需要监管、平台、用户共同参与。

他认为,巨量引擎的“以AI治AI”实践,为行业提供了“技术治违”的范本,而监管、平台、伦理委员会共同组成的“共治联盟”,将成为未来广告安全治理的关键路径。

广告节上的这一场分享,展现出巨量引擎在广告安全治理上的清晰逻辑:从“以规则管人”到“以AI治AI”,从“事后治理”到“事前防控”,技术正成为广告安全的第一道防线。