2024年国庆期间，AI配音雷军刷屏网络，引发关注。AI换脸技术门槛低至9.9元，犯罪频率逐年升高。去年，香港一跨国公司员工因AI换脸诈骗损失2亿港元；今年初，银川一经理被骗20万元，天津一市民被骗95万元。AI技术滥用形成专业化犯罪链，但现有技术仍有微表情缺失等局限。法律层面，杭州互联网法院审理的虞某案显示，赔偿与牟利不成比例致犯罪动机增强。平台责任亦受质疑，短视频平台充斥虚假AI内容，老年用户易受影响。《人工智能生成合成内容标识办法》要求标注AI生成内容，但执行力度待加强。AI谣言如近期微博上的周杰伦赌债传闻，需平台主动干预。AI换脸技术发展迅速，社会对其规范需求紧迫。