4月17日，联想集团在宣传片《用AI守护AI》中推出AI防诈技术——‘Deepfake深度伪造技术检测器’。该技术基于DeepSeek开源大模型构建，可在5秒内精准识别Deepfake换脸伪造，检测准确率达96%。检测器通过深度学习算法分析图像和视频中的细微特征，能区分真实人脸与伪造人脸，适用于在线会议、社交媒体浏览及AI PC使用场景，实时检测并预警潜在风险。目前支持多设备运行，包括笔记本电脑、台式机、平板和手机。联想强调反诈需多方合作，已获四川省反诈中心、腾讯云、奇安信等支持。此外，《人脸识别技术应用安全管理办法》将于2025年6月1日施行，进一步规范人脸信息处理。

据印尼当地媒体报道，自去年10月印尼总统普拉博沃宣誓就职以来，该国出现了多起利用DeepFake技术伪造视频进行诈骗的案件。至少22个虚假账号冒充普拉博沃，以提供援助为名，诱使民众转账25万至100万印尼盾（约合人民币109.75元至438.99元）作为‘行政费’。这些虚假账号通过社交媒体行骗，其中一账号拥有7.7万名追随者，1月以来上传了100个伪造视频。目前，部分账号已被关停。

美国著名影星斯嘉丽・约翰逊呼吁政府立法限制AI的使用，因一段包含她的AI deepfake视频在网络上流传。她在声明中表示，美国政府在保护公民免受AI威胁的立法方面停滞不前。该视频中，多位犹太裔名人被AI合成穿着印有反犹太图案的T恤。斯嘉丽强调，AI传播仇恨言论的风险远大于个人责任，必须谴责AI滥用行为。她呼吁立法者优先考虑限制AI使用的立法，认为这关系到全人类未来。然而，目前AI监管方面进展缓慢，例如加州州长否决了重要AI安全法案，特朗普也推翻了拜登关于AI安全指南的行政令。

英国政府宣布，从1月7日起，创建和分享不雅的深度伪造图像将被视为刑事犯罪，填补了现有法律的空白。深度伪造技术能逼真地篡改视频、图片或音频，导致基于深度伪造的图像滥用自2017年以来增加了400%以上。新法将纳入《犯罪和警务法案》，规定创建和分享色情深度伪造图像均属犯罪，最高可判两年监禁。此外，未经同意拍摄私密图像及安装犯罪设备的行为也将受到更严格审查和处罚。新法旨在保护女性和女孩免受网络厌女症和图像滥用的侵害。

2023年初，Arup香港分公司一名员工收到一封邀请参会的邮件，进入会议后，他看到包括CFO在内的多位高管视频通话，讨论秘密收购事宜。随后，领导指示他将2亿港元分多次转入指定账户。五天后，他才意识到被骗。 警方调查发现，诈骗分子利用高管的音视频信息，通过Deepfake技术制作“虚拟人”，预录会议视...

【摘要】 国庆期间，雷军AI配音事件引爆网络，引发对AI造假音视频泛滥的担忧。Deepfake技术，自2017年面世以来，便在短时间内遭受全球合力封杀，多个国家和地区通过立法手段严惩利用Deepfake侵犯肖像权和隐私权的行为。然而，为何这一技术依然愈演愈烈？原因在于其操作简便，几乎零技术门槛，且所需的软件、模型、照片等资源在互联网上唾手可得。 韩国近期发生的Deepfake事件，涉及逾22万受害者，包括众多中小学校，凸显了该技术的破坏力。分析显示，Deepfake之所以难以彻底禁止，主要因其技术简单，易于获取，使得普通人也能轻易制造和传播有害内容。这要求我们从源头入手，加强社交媒体上的隐私保护意识，对AI开发平台进行更严格的监管，以及严厉打击相关软件和模型的非法交易。面对AI技术带来的挑战，我们应采取综合措施，以遏制Deepfake的蔓延，保护网络安全和个人隐私。

9月6日，北京国家金融科技认证中心联合多家金融机构共同发布了《虚假数字人脸检测金融应用技术规范》，自当天起正式施行。这一规范是国内首个专注于防范Deepfake技术带来的虚假数字人脸攻击的标准，填补了国内在该领域的空白。《应用规范》旨在提升金融信息系统安全性，通过设定技术框架、功能和性能要求，以及提供测试评估方法，专门针对AI生成、Deepfake等技术制造的虚假人脸内容进行检测。它不仅关注于识别图像和视频形式的虚假人脸内容，还引入了深度学习和卷积神经网络技术作为检测手段，并为身份识别、交易验证场景制定相应的评估方法。中信银行信息技术管理部创新科学家张然表示，此规范标志着国内金融领域在虚假数字人脸检测方面实现了从无到有的突破，是数字金融领域的重要成果。未来，该标准有望进一步升级为国家标准乃至国际标准。

在《太火了！我在外滩大会玩Deepfake，想骗过机器人结果……》一文中，作者分享了自己在外滩大会体验Deepfake生成与识别的过程。该活动吸引了全球26个国家和地区的2200多名技术研究者参与，旨在对抗Deepfake带来的威胁。大会现场人山人海，展示了Deepfake生成和对抗的流程，帮助普通...

在韩国，DeepFake技术引发了前所未有的恐慌与迫害，尤其针对女性。犯罪者通过该技术将普通人的形象替换至色情图片或视频中，利用社交媒体进行传播，对受害者进行羞辱。据《朝鲜日报》报道，近期在Telegram社群中，参与DeepFake制作与传播的加害者数量高达23万，覆盖全球各地。 受害者不仅限于明...

【韩国Deepfake N号房事件】 韩国正面临Deepfake引发的N号房2.0危机，犯罪者利用AI技术合成女性色情内容并在Telegram上非法传播，涉及的学生群体规模惊人。受害者包括教师及女性学生，犯罪者通过AI换脸技术，合成受害者图像，并以此作为威胁手段向受害人勒索钱财。 面对这一严峻形势，韩国女性通过社交媒体呼吁国际关注，甚至在微博上寻求帮助。然而，由于国内问题的复杂性，她们寄希望于国际舆论的压力。值得注意的是，中国科研团队张欣怡及其团队在参与外滩大会AI创新赛后，将获奖的Deepfake检测模型直接开源，为全球对抗Deepfake提供了一种可能的技术解决方案。此开源行动不仅展现了科技对抗犯罪的可能性，也为受害者提供了新的保护手段。张欣怡的这一举动，体现了科技人士在面对全球性问题时的责任与担当，为解决Deepfake带来的社会问题带来了新的希望。