6月22日，央视曝光了网络上频发的‘AI造谣’现象。近期，上海警方查处一起典型案件，某自媒体工作室利用AI生成虚假内容，编造‘华山医院前院长因病去世’等不实信息，共发布约10万条谣言，造成恶劣社会影响。经核实，华山医院并无此人记录，发布者仅为账号兼职注册者，实际运营者为王某某、郭某某、石某某等人，其工作室操控500余个自媒体账号进行传播。目前，三人因涉嫌非法利用信息网络罪被依法采取刑事强制措施，相关账号已被封禁。此外，国家网信办针对AI造谣展开专项打击，第一阶段已处置违规AI产品3500余款，清理信息96万余条，成效显著。

【厦门警方依法处理AI制造谣言男子】8月29日，据福建网警报道，一名为吸粉引流、非法牟利的男子，利用AI技术制造谣言，误导公众认知，扰乱社会秩序，已被厦门警方采取刑事强制措施。该男子在6月通过虚构“广东省五华县华阳镇70多岁老人被打致昏迷，其孙子跳河自杀，打人者被判九年十个月”的视频内容，迅速吸引了大量关注。经警方调查，发现该视频内容全为移花接木、编造的网络谣言。嫌疑人任某承认，他使用AI合成视频，并通过自动生成工具生成虚假文章和图片，以民生话题和夸张情节吸引眼球，再通过社交平台发布，非法牟利。此事件发生在近期，任某已被厦门海沧警方依法处理，维护了网络空间的秩序与安全。