警惕“AI造谣” 小心“流量”变“流毒”

目前，人工智能技术已经在文本生成和图片创作等领域得到广泛应用。只需输入一些关键词，AI就能快速生成一张图或一篇文章。然而，一些用户为了博眼球或者追求热度，却将这种技术用于编造虚假信息，制造假通报。

一段名为《浙江工业园现大火浓烟滚滚，目击者称有爆炸声!》的视频在网络上流传，引发了网友们的广泛关注。不过，经过相关部门的核实，该视频为谣言。根据调查，该视频的当事人是为了给自己账号涨粉引流，获取更多利益，通过非法渠道购买了AI视频生成软件。该当事人使用这种软件生成了许多热门话题的视频产品，并将其上传到了多个热门视频平台上。这种利用AI技术制作虚假视频的行为已经引起了相关部门的重视。他们呼吁大家在上传视频时，要确保内容的真实性和可信度，共同维护网络环境的健康和清新。

截至案发，相关当事人发布的虚假视频多达20余条，涉及浙江、湖南、上海、四川等多个省市，累计阅读观看量超过167万次。目前浙江绍兴上虞法院已开庭审理并当庭宣判了这起案件，两名被告均被判处有期徒刑。

但“AI谣言”仍时有发生。2024年1月，广西东兴市骆某某为博取流量，将其他地区的抗洪、救灾视频，经AI软件自动编辑，编造新疆乌什县发生地震的虚假视频信息。同年1月，四川一网民在某平台发布“贵州女婴被弃”的谣言文章。经调查，该涉谣文章由AI系统生成并发布，相关言论及照片均为不实信息。

技术的普及带动自媒体产业的繁荣。但一些网民为获取流量不惜利用技术手段编造生成虚假视频，让“AI谣言”在网络上传播，不仅给网络安全带来严峻挑战，也严重扰乱社会秩序。

针对利用"深度合成"等生成式人工智能技术发布违法信息的行为，2023年，最高人民法院、最高人民检察院、公安部将联合发布《关于依法惩治网络暴力违法犯罪的指导意见》。根据该指导意见，对于这种行为，将会依法从重处罚。

多位专家表示，为了消除这种“AI谣言”，需要一方面提高广大自媒体经营者的法律意识，从源头上减少其产生。另一方面，监管部门也应当加强相关案件的宣传和推广，提高网民对“AI谣言”的辨别能力。