党报头条官网>>精读党报
以AI技术排查“AI造谣”(锐评)
    来源:河南日报 作者:江德斌 发布时间:2024-04-16 14:41
生成海报

党报头条是中国报业协会所属融媒矩阵平台

  4月12日,公安部公布10起打击整治网络谣言违法犯罪典型案例。其中,广东公安机关查处编造“广州限制外卖配送”谣言案中,6人被采取刑事强制措施。除了“广州限制外卖配送”谣言案系人工智能(AI)生成外,公安部此次公布的10起典型案例中,还有3起案件涉及使用AI造谣。(据4月13日南报网)


  在AI生成技术发布之后,以其强大的内容生产优势,迅速得到大众的认可,并在各个领域得到广泛应用。与之同时,“AI造谣”也不断涌现,一些人出于恶搞、牟利、引流等目的,肆意滥用AI生成技术,将其作为编造网络谣言的工具,制作、散播网络谣言,造成了恶劣的社会影响。从公安部此次发布的网络谣言典型案例看,10起案件里就有4起“AI造谣”,可见“AI造谣”已成气候,必须采取措施予以遏制。


  防范“AI造谣”,并不是禁止AI技术,而是要制定规范标准,限制技术的使用范围,关键在于管住人。网络谣言呈现出爆发式、裂变式传播,瞬间就传遍全网,这是网络谣言非常突出的特点,也给辟谣带来了不便,需要跟时间赛跑,通过分析事实、澄清真相应对网络谣言,以降低网络谣言的负面影响。看似简单的造谣,核查成本却很高,尤其是用到了AI技术,令问题更为凸显,依靠传统打击手段,难免有些力不从心。


  遏制“AI造谣”,需要借力打力,以AI技术克制“AI造谣”。无论“AI造谣”的水平有多高,其都是采用技术手段生成的,往往是对旧闻、网络素材、“投喂”材料的整理、篡改、编写,在逻辑性、完整性、真实性等方面存在瑕疵。因此,可以利用AI技术,对大量疑似“网络谣言”进行分析、查证,以高效辨识其真伪。同时,用AI技术拆解“AI造谣”,查溯制作源头,锁定造谣者。


  监管部门还需制定AI生成技术的规范标准,要求技术服务商引入“数字水印”等防伪技术,明确在图片、视频等生成内容里添加不可篡改的“数字水印”,标注软件版本、创作者、时间、IP等要素,以便于技术识别内容真伪。同时,对“AI造谣”实施惩戒措施,如有多次使用AI生成技术造谣传谣,则可将其列入“黑名单”,在一段时间内禁止技术服务商、平台等为其提供服务,以限制其创作机会,视情节追究其法律责任。

责任编辑:高海仙审核:金春妮
微信

扫描关注微信公众号

返回顶部
以AI技术排查“AI造谣”(锐评)
来源:河南日报 2024-04-16 14:41:34
      4月12日,公安部公布10起打击整治网络谣言违法犯罪典型案例。其中,广东公安机关查处编造“广州限制外卖配送”谣言案中,6人被采取刑事强制措施。除了“广州限制外卖配送”谣言案系人工智能(AI)生成外,公安部此次公布的10起典型案例中,还有3起案件涉及使用AI造谣。(据4月13日南报网)在AI生成技术发布之后,以其强大的内容生产优势,迅速得到大众的认可,并在各个领域得到广泛应用。与之同时,“AI造谣”也不断涌现,一些人出于恶搞、牟利、引流等目的,肆意滥用AI生成技术,将其作为编造网络谣言的工具,制作、散播网络谣言,造成了恶劣的社会影响。从公安部此次发布的网络谣言典型案例看,10起案件里就有4起“AI造谣”,可见“AI造谣”已成气候,必须采取措施予以遏制。防范“AI造谣”,并不是禁止AI技术,而是要制定规范标准,限制技术的使用范围,关键在于管住人。网络谣言呈现出爆发式、裂变式传播,瞬间就传遍全网,这是网络谣言非常突出的特点,也给辟谣带来了不便,需要跟时间赛跑,通过分析事实、澄清真相应对网络谣言,以降低网络谣言的负面影响。看似简单的造谣,核查成本却很高,尤其是用到了AI技术,令问题更为凸显,依靠传统打击手段,难免有些力不从心。遏制“AI造谣”,需要借力打力,以AI技术克制“AI造谣”。无论“AI造谣”的水平有多高,其都是采用技术手段生成的,往往是对旧闻、网络素材、“投喂”材料的整理、篡改、编写,在逻辑性、完整性、真实性等方面存在瑕疵。因此,可以利用AI技术,对大量疑似“网络谣言”进行分析、查证,以高效辨识其真伪。同时,用AI技术拆解“AI造谣”,查溯制作源头,锁定造谣者。监管部门还需制定AI生成技术的规范标准,要求技术服务商引入“数字水印”等防伪技术,明确在图片、视频等生成内容里添加不可篡改的“数字水印”,标注软件版本、创作者、时间、IP等要素,以便于技术识别内容真伪。同时,对“AI造谣”实施惩戒措施,如有多次使用AI生成技术造谣传谣,则可将其列入“黑名单”,在一段时间内禁止技术服务商、平台等为其提供服务,以限制其创作机会,视情节追究其法律责任。