近日，日本北海道发生一起‘假偶像’诈骗案，一名50多岁女性被假冒人气偶像组合Snow Man成员目黑莲的骗子骗走约100万日元（约合人民币4.7万元）。今年5月，该女子通过社交平台被诱导添加假目黑莲的LINE账号，对方利用AI换脸技术及语音合成手段，营造出逼真的‘视频通话’场景，逐步诱使其购买Apple礼品卡并转账。直至第十次转账时，女子心生疑虑报警，骗局才被揭露。这不是日本首次发生此类事件，2024年8月也曾有人因假扮Hey!Say!JUMP成员山田凉介而行骗。这类骗局瞄准中老年群体的情感需求，利用明星光环制造信任感，最终导致受害者人财两空。专家提醒，追星需理性，切勿轻信网络诱惑，以免落入诈骗陷阱。

5月23日消息，警惕‘AI换脸’技术被用于诈骗。不法分子利用该技术伪造明星或亲友形象实施骗局。AI换脸通过面部识别、特征提取及融合实现换脸效果，甚至可实时应用于视频通话。尽管技术成熟，但仍存破绽，如面部轮廓模糊等问题。专家建议，在收到视频借款请求时，务必多渠道核实身份，避免轻易转账；面对陌生人邀约入群或参会，需保持警惕，以免落入犯罪分子设下的圈套。

中央网信办近日印发通知，将在全国范围内开展为期3个月的‘清朗·整治AI技术滥用’专项行动，重点整治利用AI假冒他人实施侵权违法行为的现象。这些行为包括通过AI换脸、声音克隆等深度伪造技术假冒专家、企业家、明星等公众人物进行恶意营销或诈骗。去年国庆期间，有人曾用AI捏造雷军配音，引发不良影响，雷军为此录制视频呼吁停止恶搞。今年3月，雷军在全国两会提出建议，呼吁加强对‘AI换脸拟声’违法侵权行为的治理，指出此类滥用行为可能涉及肖像权侵权、个人信息泄露及诈骗等问题，对构建良性的人工智能发展生态造成威胁。本次专项行动旨在遏制此类问题，维护网络环境健康。

4月29日，甘肃临夏一位新娘因超高颜值在网络上走红，引发热议。部分网友质疑其是否使用了‘AI换脸’或整容。对此，拍摄者回应称，新娘来自美女众多的家庭，家族女性外貌出众。新娘平时习惯素颜生活，更重视内在修养。新娘的独特魅力再次成为网络焦点。

2024年国庆期间，AI配音雷军刷屏网络，引发关注。AI换脸技术门槛低至9.9元，犯罪频率逐年升高。去年，香港一跨国公司员工因AI换脸诈骗损失2亿港元；今年初，银川一经理被骗20万元，天津一市民被骗95万元。AI技术滥用形成专业化犯罪链，但现有技术仍有微表情缺失等局限。法律层面，杭州互联网法院审理的虞某案显示，赔偿与牟利不成比例致犯罪动机增强。平台责任亦受质疑，短视频平台充斥虚假AI内容，老年用户易受影响。《人工智能生成合成内容标识办法》要求标注AI生成内容，但执行力度待加强。AI谣言如近期微博上的周杰伦赌债传闻，需平台主动干预。AI换脸技术发展迅速，社会对其规范需求紧迫。

全国人大代表、小米集团CEO雷军在十四届全国人大三次会议北京代表团会议上回应了去年国庆期间“AI雷军”连续8天辱骂事件。雷军表示，这类低质内容增多且难以防范，网友投诉频繁。他指出当前缺乏专门针对AI侵权的立法，维权困难。雷军呼吁相关部门提前预判并立法应对AI技术带来的新问题。他将在2025年全国两会提出加强“AI换脸拟声”违法侵权治理的建议，并提出三点建议：加快单行法立法进程、强化行业自律共治、加大普法宣传力度。

新加坡总理黄循财透露，网络上出现大量其本人的深度伪造视频（Deepfake），被用于推广加密货币、赚钱计划及永久居留申请服务等诈骗活动。黄循财在社交媒体上提醒公众警惕并避免受骗。近年来，新加坡金融诈骗和网络犯罪案件呈上升趋势。2024年，诈骗受害者损失金额达11亿新元（约59.82亿人民币），案件数量同比增长近11%。新加坡政府正考虑将鞭刑作为某些诈骗相关犯罪的惩罚手段，并已加强立法和教育宣传。

3月6日，全国政协委员靳东回应AI换脸诈骗问题，称喜爱他的观众被骗得很惨，性质恶劣，呼吁建立更好规则。AI换脸诈骗利用人们习惯通过脸确认身份的特点，通过逼真合成图像实施诈骗。识别方法包括要求对方在视频中挥手以观察面部数据变化。专家建议加强个人信息安全防护，保护人脸、声纹、指纹等生物特征数据，并注意手机、电脑安全及避免访问不明网站。

近期，AI深度合成音视频侵权现象频发，包括恶搞雷军、利用AI制作张文宏医生音视频等。刘德华电影公司也曾紧急声明提醒网民警惕伪造刘德华声音的AI骗局。调查显示，实现AI深度合成并不难，只需几十元即可定制名人音视频。此类行为已触犯《民法典》及《互联网信息服务深度合成管理规定》，构成侵权。专家建议，可通过AI检测技术防范侵权，法律层面需完善立法并加强执法力度，平台需建立健全内容审核机制。

索尼影业出品的电影《此心安处》（Here）于上周末大规模公映，由罗伯特·泽米吉斯执导，投资5000万美元。该片是好莱坞首部利用实时生成式AI面部变换技术的长篇电影，使汤姆·汉克斯和罗宾·怀特两位演员跨越60年的年龄跨度，无需更换演员。影片改编自2014年同名漫画小说，主要场景设在新泽西州的一间客厅，跨越多个时间段。制作团队采用Metaphysic公司的实时换脸和衰老特效技术，通过两台显示器同步显示演员的真实面貌及所需年龄的面貌。该技术基于汉克斯和怀特以往电影画面训练的机器学习模型，无需传统CGI的长时间后期制作，可实时生成面部变换效果。这种方法通过分析面部特征点并映射到训练过的年龄段上，实现了更自然的去衰老效果。