上海地铁砍人事件,热度的背后竟是利用AI造谣

科技旋涡 2024-06-20 17:15:56

作者&编辑|孙浩南

一直以来,对于各类违法犯罪问题,影响到了整个社会的繁荣稳定,群众无不对其咬牙切齿、恨之入骨。

昨天一早,网络上曝出,上海地铁9号线合川路站内有人持刀行凶的消息,一时间,引发社会广泛关注,对此,当地警方及时介入给予处置。

与此同时,也有“好事者”趁机作恶,为了热度利用AI捏造不实传闻,为此受到了法律的惩处。

中山公园地铁站捅人系谣言

6月19日8时许,上海地铁9号线合川站发生持刀伤人事件,有3人受伤。据网络视频显示,有一名男性伤者在闸机处腹部中刀倒地。事件发生后,合川站临时关闭配合公安机关处置,民警接报后迅速到场,将3名受伤人员送医治疗。目前,犯罪嫌疑人沈某(男,54岁)已被警方抓获,案件正在进一步侦办中。

然而,就在民众对此事件极为关注,想要获知人员伤亡情况时,有人却看上了这起恶性事件的流量和热度。

6月19日15时许,一人在途经中山公园附近一超市时,看到便衣民警正在抓捕盗窃嫌疑人,现场根本没有发生持刀伤人等情况,她却为营销品牌博取关注,故意编造并在网上发布“中山公园地铁站捅人”的谣言。

事后经民警调查,此人为陶某某(女,31岁)系某品牌营销人员,因不久前的热度让其“头脑一热”将抓小偷的小案件编造为持刀伤人的恶性事件来博取关注。造成群众恐慌,产生恶劣社会影响。目前,陶某已被依法处以行政拘留。

无独有偶,看上真实持刀伤人事件流量的高某某(女,46岁)同样产生了歪心思。身为某品牌营销人员的她在6月19日上午,为增加其运营的自媒体账号粉丝数和关注度,使用AI软件生成视频技术,编造了地铁行凶的虚假视频等不实信息发布在网上,造成恶劣社会影响。目前,高某某已被依法处以行政拘留。

AI成了“蹭热度”的造假工具

自去年12月开始,公安部部署打击整治网络谣言专项行动以来,上海警方针对网上恶意炒作,造谣生事等网络违法乱象开展全力集中整治。截至2024年4月,累计查处网络谣言384起,依法查处造谣传谣人员530余人,清理网上谣言信息53000余条,依法关停违法违规账号5000余个。

在侦办案件的过程中,警方发现,利用AI技术炮制“爆点”的不法行为是最近兴起的新型手段。

譬如上海青浦警方在打击网络谣言专项行动中,查处了一起虚构事实扰乱公共秩序的案件。该案中,男子为提升曝光度,博取流量,输入关键字用AI杜撰关于青浦区发生命案的文章,并在网上下载网图后移花接木,发布在网上吸引网友关注,之后被依法行政拘留。

相较于传统的,由造谣者人工编造散播的谣言,使用AI工具来造谣的危害显然更大。一方面,利用AI技术,造谣者只需要进行简单的描述,虚假文字信息,图片,视频就会立马生成。另一方面,最新的生成式AI技术足够厉害,已经接近“以假乱真”的效果。人工智能还能根据传播渠道的特征,实施个性化的谣言生成,迷惑性更强,传播范围更广,所产生的危害也会更大。

据日本瑞穗研究所及技术公司的调查,70%的日本受访者认为互联网上的信息很难判断真假,但只有26%的受访者表示在接触可疑信息后会进行某种程度的验证。

2024年年初,世界经济论坛发布《2024年全球风险报告》,将人工智能生成的错误信息和虚假信息列为“未来两年全球十大风险”之首,担心其会使本就两极分化、冲突频发的全球形势进一步恶化。

对于广大网友来说,在上网浏览信息时要保持对信息来源的警惕性,尽量选择权威、可信赖的媒体或机构作为信息来源。切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时,可以先进行核实或者等待官方消息发布后再做判断。

科技旋涡认为,AI技术的发展虽然带来了许多便利和福祉,但其潜在危害也不容忽视。我们需要在享受科技带来的好处的同时,保持警惕和理性思考,加强对AI技术的监管和管理,在确保其不会对人类安全造成威胁的前提下进行发展。

写在最后

AI技术作为当今科技领域的热门话题,其在带来便利的同时,也容易被“好事者”利用来制造虚假信息、扰乱社会秩序。AI是一种辅助人类工作、提高效率的工具,不应该被用来造谣生事、犯罪。

流量固然能够带来巨大的宣传效果,但靠造假和吃人血馒头得来的利益终究会迎来更大的反噬。AI是一把双刃剑正体现于此,在给人类生活带来便利的同时,它也带来了诸多困境。此次事件再次敲响了警钟,提醒着我们直面AI带来的种种挑战。

0 阅读:200

科技旋涡

简介:在这里,看懂科技