当前时间:

当网络谣言遇上ai……-k8凯发国际官网入口

发布时间:2024-05-28


“广州限制外卖配送”“河南信阳市中心体育馆惊险崩塌”“甘肃红十字会收取160万元暖手袋管理费”……这些所谓“有图有视有真相”的重磅“消息”,曾在网上广泛传播,引起大量网民关注。

令人大跌眼镜的是,警方事后的调查发现,这些耸人听闻的“消息”,是不法分子使用ai制作的网络谣言!尽管警方紧急辟谣、澄清事实,可谣言已经领跑真相一大截,让很多人信以为真,给当事方带来极大困扰。


ai加持下的互联网,给人们生活场景的丰富、生产效率的提升带来了全新机遇。但当谣言披上ai的外衣时,谣言和真相更难辨认,造谣的门槛和成本极大降低,传播的效率和产生的影响成倍增加,成为亟需治理的一道网络新课题。 


1



近日,多地警方通报了一批利用ai造谣的典型案例。


去年12月,甘肃积石山发生6.2级地震,张某某利用ai软件,编造了“甘肃红十字会采购暖手袋,收取160万元管理费”“甘肃执法队扣押救灾货车”等不实信息,并通过多个网络平台进行发布,对当地抗震救灾工作造成严重影响。


今年2月,杜某利用ai技术,编造了“某著名女星命运多舛、含恨离世”的短视频,上传网络后引起广泛传播,严重影响了当事人的生活和声誉。



一份近期审结案件的材料显示,不法分子利用ai技术,以热点新闻和随机网络视频为素材,短时间内就制作出约1万条虚假视频新闻,其中发布出去的20多条视频,涉及多个省份,浏览量超过百万。


清华大学新闻与传播学院新媒体研究中心今年4月发布的一份报告显示,经济领域已成ai谣言的高发地,餐饮外卖、快递配送等民生行业是ai谣言的重灾区。


2



当网络谣言遇上ai,后者低成本、高效率、操作简单的特点,使谣言视频的批量化生产成为可能。ai谣言的视频形态,也契合了部分网民“有图有视频就有真相”的认知,使得ai谣言常常一经上网,就能迅速传播。


从查获的典型案例来看,“吸睛引流”“变现牟利”等,是不法分子屡屡提及的高频词。


自媒体时代,“注意力经济”为很多人提供了发家致富的机遇。但一些人信奉“流量至上”,为了流量,什么技术都敢用、什么手段都敢使,甚至把冲撞道德底线、践踏法律红线当作“流量密码”,猎奇、八卦、低俗、编造假新闻等等,都成为追求流量的工具。 



ai造谣更衍生出一条条黑灰产业链。


去年国庆假期,“4岁女童海边走失”发生后,上海警方发现十余个散布“走失女童曾被丢弃”等虚假信息的自媒体账号,并在进一步侦查中打掉一个“水军”团伙。该团伙借助ai技术,批量制造不实帖文,大量转发炒作,非法获利4万余元。  


3



前述清华大学的研究报告,以80余件涉ai谣言案例进行统计,发现涉案所受处理当中,占比最大的是行政处罚,包括罚款和行政拘留,约占一半;而实施刑事拘留和判刑的,不足两成;其余则是封禁账号、信息清理、批评教育等。


同谣言造成的破坏相比,不少网友认为,惩处造谣的力度还不够刚硬。只有进一步完善法律法规,实施更强有力的惩处,才能发挥震慑作用,遏制ai谣言黑灰产业蔓延势头。



ai谣言传播的相关网络平台,也不能忘记平台的主体责任。加大人力、财力、技术等多方面投入,在内容甄别、谣言拦截、防止扩散等方面展现更多主动作为,坚决阻断谣言传播链条,切实肩负起社会责任。


走好群众路线,发动广大网友,激发网友参与举报ai谣言的热情,共同筑起防范ai谣言传播的铜墙铁壁。


唯有如此,ai这种新生产工具才能扬长避短,不为谣言生产、传播助纣为虐,而为社会发展进步贡献更多正向力量。

来源:“新华社”微信公众号


中共河南省委网络安全和信息化委员会办公室 河南省互联网信息办公室  k8凯发国际官网入口的版权所有    
      邮编:450008    k8凯发国际官网入口的技术支持:大河数字
  • 二维码手机站
  • 二维码微信公众号
网站地图