【微言微语】“一天造谣7000篇”,AI技术应用乱象怎么治

中国城市报 2024-06-24 20:58:03

背景:

“西安突发爆炸”“重庆巫溪一民房发生爆炸事故”“上海中山公园地铁站发生捅人事件”……这些耸人听闻的消息,竟都是利用AI软件炮制的谣言。其中,一家MCN机构通过AI软件,最高峰一天能生成4000至7000篇,最高的一条收入700元,初步估算每天的收入在1万元以上。

这些不法分子为赚取平台流量补贴,获得流量变现,利用AI合成技术编造谣言,严重扰乱社会秩序。日前,多地警方对相关责任人进行了行政处罚,并封禁其网络账号。

@《工人日报》:AI造谣能生成极为逼真的图片、音视频,颠覆了“有图有真相”的常规认知,蛊惑性极强。以新闻报道的口吻生成所谓的“突发新闻”,再配上耸人听闻的标题,短时间内就能快速传播,让不明真相的民众轻信,易引发社会恐慌,扰乱社会公共秩序,对社会信息生态造成极大破坏。而相关行政执法部门的查证、辟谣则要浪费大量的社会资源。

@澎湃新闻:拥有技术优势的平台,更应该肩负起主体责任。这种造谣信息之所以可以“玩得下去”,就是因为它们有利可图。平台应当意识到自身肩负的社会责任,切不可在流量的诱惑下,对这类信息睁一只眼闭一只眼。

@《南方日报》:阻击谣言是一项复杂的工作,需要各方携手合作、形成合力。平台在刺激创作的同时,应尽到消除虚假信息传播的责任,通过更严格的信息过滤、账号处理等,让流量生意无利可图。同时,相关治理手段也要迭代更新,利用技术识别伪造内容,让识别谣言的精准度更高、阻击速度更快、打击力度更强,以斩断造谣背后的黑灰产业链。广大网民也要严格遵守相关法律法规,自觉规范个人网上言行,不断提升识别防范抵制网络谣言的能力。

对此,你怎么看?

0 阅读:0

中国城市报

简介:用专业视角发掘新闻,城市观点尽在掌握