6月22日，央视曝光了网络上频发的‘AI造谣’现象。近期，上海警方查处一起典型案件，某自媒体工作室利用AI生成虚假内容，编造‘华山医院前院长因病去世’等不实信息，共发布约10万条谣言，造成恶劣社会影响。经核实，华山医院并无此人记录，发布者仅为账号兼职注册者，实际运营者为王某某、郭某某、石某某等人，其工作室操控500余个自媒体账号进行传播。目前，三人因涉嫌非法利用信息网络罪被依法采取刑事强制措施，相关账号已被封禁。此外，国家网信办针对AI造谣展开专项打击，第一阶段已处置违规AI产品3500余款，清理信息96万余条，成效显著。