莫让AI沦为谣言“黑箱”

防范AI技术滥用。辛刚作

“大妈摆摊卖水果被罚16万元”“被压在废墟下的小男孩”……近期，一些不法分子为牟取流量、收益，利用AI合成技术编造虚假信息，炮制网络谣言，严重扰乱了社会秩序。

不可否认，AI技术正逐渐改变我们的生活方式，提升工作效率，并为人们解决许多复杂问题提供了新的途径。但同时，也有一些人在利用AI技术时走向迷途。比如，以往需要专业团队精心制作才能形成的虚假内容，如今，通过“AI一键生成”平台，几分钟便可生产出画面逼真、要素齐全的假新闻。

更值得警惕的是，AI造谣已然形成了灰色产业链。不法分子为博取流量、利益，利用AI这种成本低、效率高的工具，批量制造、投放假新闻，骗取大众的关注和参与，实现流量变现。这种一人动辄“手握”上千账号的造假方式，让假新闻不断发酵，严重扰乱网络传播秩序。这些虚假内容的广泛传播，会让公众陷入对网络信息“疑真疑假”的认知困境。长此以往，会损害公众对信息的信任基础。

面对AI造谣现象，各地网信部门应加大监测力度，及时在媒体平台上发布辟谣信息。公安机关也要持续加大打击力度。但若要根治这一现象，还需政府、平台、公众等方面共同努力。首先，技术层面应加强对AI内容识别和溯源技术的研发，提升对虚假信息的监测和拦截能力。其次，法律层面需完善相关规定，明确AI造谣的法律责任，加大对违法行为的惩处力度。最后，公众层面应提升数字素养，提高对虚假信息的辨别能力，做到不轻信、不传播。

当今时代，信息技术正加速迭代。这也意味着治理AI造谣现象不可能一蹴而就，治理手段和路径须更加具有前瞻性。只有形成社会共治格局，才能防止AI工具沦为谣言的“黑箱”，让信息化技术红利真正造福于民、服务于社会发展。（作者：董渺）