作品声明:本文仅在今日头条发布,谢绝转载
大批量的算法生成的虚假视频,涌入美国各个选区的社交媒体。据法新社报道,长期关注美国选举广告投放情况的卫斯理媒体项目最近发布的统计数据表明,全美范围内至少有220个部分或者全部是由人工智能工具所创建的政治竞选广告,总金额超过1.37亿美元。
把该数据放到耗资数十亿美元的美国选举大战里来看的话,虽然没有占据主导地位,但是扩散的程度却让人感到惊讶。在2024年的选举周期里,同一个机构抓取到的同类算法生成的广告总花费不到5万美元。从不足5万美元发展到超过1.37亿美元,已经不是简单的增长了,而是指数级的增长。
资金规模上的差距已经表明了明显的转变。以前被两党当作边角料的新技术,现在已经成了美国政治流水线上的一种常规装备。当一项技术用数以亿计美元来吞噬政治捐款的时候,它就不再是一种科技展示,而成了直接攻击竞争对手选票防线的武器。这样的改变也改变了竞选的方式,并且使得竞选变得更加不确定。
第一,共和党阵营大举押注该工具,两党激进手段的使用比例相差很大
在1.37亿美元的账单中,资金流向是单向的。根据统计数据,其中81%的资金以及广告内容都是由共和党籍的候选人或者他们的政治行动委员会所出资赞助的。相比之下,民主党阵营所占的份额只有大约12%,剩下的资金则被分散到了独立候选人和政治团体手中。大部分在平台上流传的生成式广告都没有醒目的标注来告诉受众这是由机器算法生成的。
共和党之所以接受这项技术,主要是因为它具有很高的投资回报率。以极小的代价制造出大量的舆论风暴,可以很快地把对手陷入无法解释的困境中。这就意味着,在越来越激烈的党派斗争中,原有的道德约束已经崩溃,谁能先用新技术打乱对手的阵脚,谁都可能不惜代价,根本不在乎手段是否光明磊落。
第二,新技术的全面介入并没有引发高水准的政策讨论,反而把竞选抹黑推到了没有底线的黑暗之地
外界之前认为人工智能可以帮选民理解政策或者分析诉求,但是实际使用的方式非常粗暴。两党团队最常使用的手段就是用深度合成技术来制造人格羞辱和负面攻击。美国民主党联邦参议员奥索夫亲身经历了这样的情况,在针对他的一个攻击广告里,出现了由算法制造出来的逼真的假象,画面中他正在美容院做面部护理,并且被灌输一种心理暗示,即他试图掩盖自己所谓的“丑陋政治记录”。
该视频中没有一个镜头是真实的拍摄下来的,在发布的时候也没有文字告诉观众这是算法生成的内容。奥索夫公开表示愤怒和担忧,他认为看到深度伪造技术被堂而皇之地用来制造政治广告,让人感到很不安。政治竞争由断章取义发展到凭空捏造对手的行动画面和声音,选举所坚守的底线也就被这台数字机器碾碎了。
第三,普通选民对于虚假信息的强烈反感,在残酷的党派零和博弈面前已经变成了一纸空文
围绕这项技术的应用,民意和政治操盘手之间出现了裂痕。根据多项民调结果来看,有73%的受访者明确表示政治竞选不应该使用人工智能生成的图片或者视频。高达95%的受访者表示,用虚假视频捏造政治对手从未说过的话,这是绝对不能接受的行为。普通民众表现得很警惕,但是压倒性的反对声浪并没有起到约束的作用。
造成这样的反差的原因就是两党团队陷入到典型的囚徒困境中。操盘手们知道选民对于这些手段感到厌恶,但是为了在选战中占据优势,谁要是单方面放弃使用造假工具,就会在负面舆论中失去话语权。在赢者通吃规则的作用之下,两党团队只能在互相抹黑的下坡路上越滑越远,把大众的真实诉求抛在脑后。
第四,算法广告的主要作用并不是改变中间派,而是把对立的两派的情绪进行极端化
对于该技术实际造成的伤害程度,纽约大学科技政策中心在之前的研究里已经做出了判断。政治领域中虚假的视觉符号以及垃圾宣传的作用,并不是为了说服已经心意决断的中间选民改变自己的立场,而是让那些原本不喜欢的政治家获得更多的选票。算法合成的内容最大的作用就是,在对立阵营内部进行情绪提纯,激起己方基本盘的恐惧和愤怒,从而促使他们走进投票站或者刺激他们拿出真金白银进行小额政治捐款。
该研究还提到,当粗制滥造的虚假信息在网络上传播开来之后,公众在刚开始的时候会感到惊恐不安,但是很快就会产生心理疲劳和脱敏的现象。这就表明人工智能并不能凭空改变选举战局,它所起的作用就是把两党不断榨取选民非理性情绪的工具放大出来。
第五,真正被推高的是整个社会的真相成本,人也会被拖进彻底的虚无主义
以前要找真实的片段进行剪辑拼接,现在只要在软件里输入文字,几秒钟就可以生成一段没有破绽的诽谤视频。造假的成本很低,但是受害者和监管机构要证明一段视频完全是假的,就需要调动专业的力量去提取底层的数据,并且联系各个平台进行核实,最后还要依靠媒体辟谣来说明。这样极端不对称的成本结构正在摧毁社会的信任基础。
当普通人在真假莫辨的政治视频海洋里浸泡的时候,最后一定会对所有的信息来源产生怀疑。选民不再相信自己的眼睛和耳朵,而政客在遇到真实的丑闻曝光的时候,也可以顺手把责任推给算法伪造,把水彻底搅浑。当公共理性的讨论空间被技术谎言蚕食殆尽之后,政治生态的溃败也就成了必然。
对于这次技术冲击而言,接下来最应该关注的并不是两党政客们冠冕堂皇的表态,而是三个硬指标。即在投票日之前后,是否会出现利用深度伪造技术制造的黑天鹅事件,在选民没有时间去核实的情况下收割选票。其次是掌握流量分发权的主流社交平台,在算法内容标注上,是继续敷衍了事,还是拿出真功夫来拦截和下架。第三部分就是陷入党派之争的美国国会能否摆脱利益集团的控制,出台一部具有约束力的联邦监管法案。三道考题的方向就是西方制度在面对技术反噬的时候所表现出的脆弱性。