制造出的虚假信息更具迷惑性,“AI(人工智能)幻觉”带来“一本正经地胡说八道”……易传播、难防治的“AI谣言”,对政府监管部门、互联网平台、技术研发者以及社会各界提出了新挑战。

如何遏制人工智能“说谎”?需要技术完善与规制,也需要系统性治理。多名受访专家表示,要完善法律规范和部门监管,推动形成多方联动的共治格局。

亮明法律底线,增强对“AI谣言”的威慑力

近日,借AI造谣燃气涨价的广西网民郑某受到行政处罚;一批传播“AI谣言”的网络账号被网信部门责令禁言或依法依约关闭;向用户传授如何利用AI“一键去衣”“换脸换身”的账号、公开售卖相关软件的网络店铺,受到网信、公安等部门联动惩治……

依法惩治的背后,是近年来AI相关法律法规的不断健全完善。《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等出台,向AI使用者和平台管理者亮明了法律底线,为执法提供了法律依据。

中南大学法学院副院长杨清望表示,“AI谣言”违法成本过低的问题仍然存在,要对不法行为严加惩处,完善相关法律法规,增强威慑力。

北京师范大学新闻传播学院教授许小可建议,针对生成和传播虚假信息的高风险领域,通过司法解释等法律形式,明确各方义务边界,制定科学合理的AI侵权责任认定指导标准。

与此同时,“AI谣言”案件取证难,困扰着办案机关。“解决涉‘AI谣言’案件取证难,需构建一套适应AI技术特性的证据收集与认定系统。”杨清望建议,通过建立完善案件证据的司法认定规则与标准,将不涉及商业秘密和个人隐私的平台算法透明化,以此破解证据与责任认定难题。

一些地方公安机关已经在监测和识别“AI谣言”上有所探索。“我们与科研机构、企业密切合作,进一步提高对恶意‘深度伪造’信息的监测预警和快速识别能力,与相关部门合作建立网络谣言巡查监测、核查反馈、会商研判、线索移送、打击处置的闭环机制,对于通过AI等方式合成的虚假信息,第一时间依法依规处理。”辽宁沈阳市公安局网络安全保卫支队民警杨永志表示。

加固技术堤坝,斩断“AI谣言”的传播链

有网友发现,一些网络平台上,AI生成图片、视频发布时“疑似AI技术生成”的提示语出现并不及时,给了虚假信息传播的时间。

“为了维护自身发展和利益,平台更应自觉治理‘AI谣言’,斩断‘AI谣言’的传播链条。”杨清望认为,发现AI谣言后,平台应立即采取下架、删除、辟谣等措施,尤其是面对重大事件、敏感话题,要加强图片、视频的真伪核查,及时消除谣言带来的负面影响。

如何加强真伪核查?

重视网民反馈。“建立便捷的举报和投诉渠道,对于网民反映的疑似谣言信息,要及时予以查证处理。对于多次利用AI造谣的用户,可以采取列入黑名单等禁止性措施,规范用户行为。”杨清望说。

“进行AI识别,还需要有力的技术保障。”中国政法大学网络法学研究所所长李怀胜表示,技术上,可以通过算法识别、大数据分析和区块链溯源等手段,识别和阻断谣言传播。例如,利用AI系统检测,通过自然语言处理和图像识别技术,自动标记可疑内容并减少推荐。

“监管部门还可以引入‘动态可追溯责任链’机制,使用内容显式标识和隐式标识等,探索开展‘AI谣言’的内容倒查和动态追责。”许小可说。

提高辨别能力,看清“AI谣言”的真面目

数数手指,AI可能生成“六根手指”;寻找阴影方向,AI也许把太阳挂反;看看面部表情,AI生成画面可能眼嘴不协调……AI谣言真假难辨,但仍可发现蛛丝马迹。

提高警惕,是提升“AI谣言”辨别能力的第一步。

看到“网友爆料”“独家内幕”的字样,或是发现信息逻辑存在漏洞或矛盾,就要注意了——它很可能经过了篡改或杜撰。“要谨慎分辨,尽量找到权威信息核实;也可以通过交叉印证的方式,验证信息真伪性。”许小可说。

还要增强法律意识,防止在“无意识”中助力谣言传播。

“有些人可能主观上并无造谣意识,只是将AI合成内容发布在网络上,结果被大量转发,从而产生负面影响。”李怀胜说。

对此,李怀胜提醒,AI生成内容可能存在事实性偏差、逻辑漏洞或时效滞后问题,使用过程中应保持审慎态度,不要直接公开发布未经核实的AI生成内容,防止无意间误导信息传播。

在媒体责任方面,专家认为,媒体平台应提高内容审核能力,通过官方渠道和权威信源核查信息真实性;自媒体从业者应增强法律意识,真实、准确、客观发布信息。

防治“AI谣言”,知识普及不可少。许小可认为,通过发布典型案例,引导人们了解“AI谣言”的生成机制、传播逻辑、话术套路和识别方式,可以帮助人们看清“AI谣言”的真面目。

AI技术发展迅速,学会“智慧”地运用“智慧工具”,才能让AI更好服务人们的生产生活。

(侯依阳参与采写)

《 人民日报 》( 2025年08月20日 04 版)