据印尼当地媒体报道，自去年10月印尼总统普拉博沃宣誓就职以来，该国出现了多起利用DeepFake技术伪造视频进行诈骗的案件。至少22个虚假账号冒充普拉博沃，以提供援助为名，诱使民众转账25万至100万印尼盾（约合人民币109.75元至438.99元）作为‘行政费’。这些虚假账号通过社交媒体行骗，其中一账号拥有7.7万名追随者，1月以来上传了100个伪造视频。目前，部分账号已被关停。

美国著名影星斯嘉丽・约翰逊呼吁政府立法限制AI的使用，因一段包含她的AI deepfake视频在网络上流传。她在声明中表示，美国政府在保护公民免受AI威胁的立法方面停滞不前。该视频中，多位犹太裔名人被AI合成穿着印有反犹太图案的T恤。斯嘉丽强调，AI传播仇恨言论的风险远大于个人责任，必须谴责AI滥用行为。她呼吁立法者优先考虑限制AI使用的立法，认为这关系到全人类未来。然而，目前AI监管方面进展缓慢，例如加州州长否决了重要AI安全法案，特朗普也推翻了拜登关于AI安全指南的行政令。

2023年初，Arup香港分公司一名员工收到一封邀请参会的邮件，进入会议后，他看到包括CFO在内的多位高管视频通话，讨论秘密收购事宜。随后，领导指示他将2亿港元分多次转入指定账户。五天后，他才意识到被骗。 警方调查发现，诈骗分子利用高管的音视频信息，通过Deepfake技术制作“虚拟人”，预录会议视...

【摘要】 国庆期间，雷军AI配音事件引爆网络，引发对AI造假音视频泛滥的担忧。Deepfake技术，自2017年面世以来，便在短时间内遭受全球合力封杀，多个国家和地区通过立法手段严惩利用Deepfake侵犯肖像权和隐私权的行为。然而，为何这一技术依然愈演愈烈？原因在于其操作简便，几乎零技术门槛，且所需的软件、模型、照片等资源在互联网上唾手可得。 韩国近期发生的Deepfake事件，涉及逾22万受害者，包括众多中小学校，凸显了该技术的破坏力。分析显示，Deepfake之所以难以彻底禁止，主要因其技术简单，易于获取，使得普通人也能轻易制造和传播有害内容。这要求我们从源头入手，加强社交媒体上的隐私保护意识，对AI开发平台进行更严格的监管，以及严厉打击相关软件和模型的非法交易。面对AI技术带来的挑战，我们应采取综合措施，以遏制Deepfake的蔓延，保护网络安全和个人隐私。

在《太火了！我在外滩大会玩Deepfake，想骗过机器人结果……》一文中，作者分享了自己在外滩大会体验Deepfake生成与识别的过程。该活动吸引了全球26个国家和地区的2200多名技术研究者参与，旨在对抗Deepfake带来的威胁。大会现场人山人海，展示了Deepfake生成和对抗的流程，帮助普通...

在韩国，DeepFake技术引发了前所未有的恐慌与迫害，尤其针对女性。犯罪者通过该技术将普通人的形象替换至色情图片或视频中，利用社交媒体进行传播，对受害者进行羞辱。据《朝鲜日报》报道，近期在Telegram社群中，参与DeepFake制作与传播的加害者数量高达23万，覆盖全球各地。 受害者不仅限于明...

【韩国Deepfake N号房事件】 韩国正面临Deepfake引发的N号房2.0危机，犯罪者利用AI技术合成女性色情内容并在Telegram上非法传播，涉及的学生群体规模惊人。受害者包括教师及女性学生，犯罪者通过AI换脸技术，合成受害者图像，并以此作为威胁手段向受害人勒索钱财。 面对这一严峻形势，韩国女性通过社交媒体呼吁国际关注，甚至在微博上寻求帮助。然而，由于国内问题的复杂性，她们寄希望于国际舆论的压力。值得注意的是，中国科研团队张欣怡及其团队在参与外滩大会AI创新赛后，将获奖的Deepfake检测模型直接开源，为全球对抗Deepfake提供了一种可能的技术解决方案。此开源行动不仅展现了科技对抗犯罪的可能性，也为受害者提供了新的保护手段。张欣怡的这一举动，体现了科技人士在面对全球性问题时的责任与担当，为解决Deepfake带来的社会问题带来了新的希望。

### 韩国女性AI换脸事件引发全球关注 近日，韩国女性群体遭受AI换脸技术带来的性骚扰和心理压力，事件迅速发酵，牵动全球舆论。8月28日，韩媒KBS报道，AI换脸技术在韩国引发的恐慌已蔓延至学校，影响范围超过30所中学。据称，全球53%的Deepfake性剥削材料均产自韩国，甚至波及小学生。这一...

韩国警方已针对Telegram公司涉嫌放任深度伪造导致的性犯罪行为展开立案前调查。首尔警察厅国家调查总部部长禹钟洙表示，与法国情况相似，Telegram公司不仅未提供账户信息等调查资料，也不向美国等其他国家的调查机关提供。尽管存在困难，但警方正尽力调查，并与法国及其他国际组织合作寻求调查途径。上月，...

韩国再次遭遇Deepfake危机，规模远超前案“N号房”。近期，首尔大学毕业生朴某和姜某涉嫌利用AI技术合成色情内容，传播给200余所学校的61名女性，其中不乏未成年人。此事引发舆论哗然，受害者数量持续上升，已有781人在各大社交媒体求助，其中288人为未成年人。Deepfake技术已进化至恐怖阶段...