10月9日，网络安全公司Cybernews披露“Chattee Chat”和“GiMe Chat”两款AI伴侣应用发生严重数据泄露事件，超过40万用户的敏感信息被公开，包括4300万条私密聊天记录、60万份图片和视频及交易记录。泄露原因在于Kafka Broker服务器未设访问控制，暴露在公共网络中。尽管未直接泄漏姓名或邮箱，但用户的IP地址和设备标识符可能被利用识别身份。部分用户花费高达1.8万美元，开发商收入超100万美元，同时泄露的身份验证tokens还导致账户劫持与资金被盗风险。

9月15日，公安网安部门在“护网—2025”专项工作中发现，某提供人工智能模型训练数据的科技公司未按《个人信息保护法》要求进行个人信息保护影响评估，涉及人脸等敏感生物信息处理。属地公安机关依法对该公司作出行政处罚并责令整改。国家网络安全通报中心提示，合法合规的数据是大模型研发基础，相关企业应加强安全管理，履行法律义务，防范网络与数据安全风险，保障人工智能产业高质量发展。

9月1日，斗象科技宣布完成2亿元桥梁战略轮融资，由钟鼎资本独家投资。斗象科技CEO谢忱表示，本轮融资将加大AI安全技术和平台安全智能的研发投入，推进长期战略布局，并为未来资本计划和IPO奠定基础。斗象科技成立于2014年，总部位于上海，是网络安全领域的领军企业，旗下拥有“斗象智能安全”“漏洞盒子”“FreeBuf”等业务品牌。作为国家级专精特新“小巨人”企业，斗象科技多次参与国家级重大网络安全保障工作，包括‘进博会’‘冬奥会’等，展现了技术实力与行业地位。

2025年8月26日，安博通发布半年报显示，公司上半年营收达4.29亿元，同比增长124%，人均产值156万元，营业成本下降29.62%。公司在“安全、算力、AI”战略方向取得显著进展，五款核心产品入选中国信通院“AI+网络安全产品能力图谱”。同时，安博通积极推进全球‘出海’战略，与多家国际机构签署合作协议。在创新领域，推出‘合规智能体’和‘安全检测智能体’等AI产品，并在零信任架构、数据安全、云安全等关键技术上实现突破。

2025年8月，南京发生一起利用AI换脸技术绕过金融支付平台人脸识别系统的诈骗案，嫌疑人窃取195万条个人信息，非法获利1.5万元。近期，多名财经大V账号被盗，法人信息被篡改，问题均涉及人脸识别系统漏洞。专家指出，部分2D人脸识别技术易被高分辨率照片或视频欺骗，而3D技术虽更安全，仍可能被AI换脸攻击突破。研究显示，部分App的人脸识别模块存在漏洞，甚至有黑产公开兜售绕过政务平台的技术服务。目前，国家已加强对人脸识别技术滥用的监管，同时行业也在提升防护能力，如引入3D结构光和红外检测等多模态验证手段，但攻防对抗仍将持续。

2025年8月6日，第十三届互联网安全大会（ISC.AI 2025）在北京国家会议中心开幕，主题为“All In Agent”，聚焦智能体时代的数字安全与人工智能前沿。全国工商联副主席罗来君、中国工程院院士陈清泉等出席，工信部原总工程师赵志国强调人工智能与网络安全融合的重要性。360创始人周鸿祎指出大模型需进化为智能体，提出L1至L4智能体演进路径，发布“智能体工厂”，企业可用自然语言定制专属智能体。他还表示，智能体对网络安全影响深远，360推出的安全智能体可复刻高级专家能力，重塑数字安全。周鸿祎总结称，360将坚持“安全+AI”双主线发展，推动智能体驱动的安全新纪元。

YouTube将于8月13日在美国测试AI“识龄”功能，通过分析用户的视频搜索、观看类别和使用时长等信号，判断观众是否未满18岁。若检测为未成年，平台将启用青少年保护措施，包括非个性化广告、休息提示及内容推荐限制。用户可通过身份证或自拍等方式纠正AI误判。这项功能此前已在其他市场应用，效果良好。YouTube称此举旨在适应美国多州及国际年龄验证法规，保护儿童网络安全。此外，部分创作者可能因受众变化导致广告收入减少，但影响预计有限。公司计划在广泛推广前密切监测该功能表现。

自6月中旬起，有人利用AI生成美国务卿鲁比奥的声音和书写风格，在聊天软件Signal上冒充他联系至少5名官员，包括多国外交部长、一名州长及国会议员。美国务院确认该事件并加强网络安全措施，称正调查以防止类似情况。FBI指出，自4月以来恶意行为者多次冒充美高级官员，通过短信和语音钓鱼试图获取信息或资金。此前，深度伪造视频曾显示鲁比奥发表虚假言论，被乌方驳斥。专家警告，随着AI技术进步，伪造内容更难辨别，科技公司与滥用者陷入‘军备竞赛’，目前伪造方占优。国务院已向员工和外国政府发出警告。

6月20日，摩根士丹利更新“人形机器人100”清单，新增Unity、Roblox、Take-Two等游戏公司及网络安全企业CyberArk、派拓网络。大摩将人形机器人概念扩展至芯片和机器人以外领域，强调这些企业是“实体人工智能的关键赋能者”。分析师指出，游戏开发商可通过模拟环境和玩家数据助力机器人训练；网安公司则因AI应用带来的安全挑战而受益，需应对IT资产增长、用户数量增加及AI代理技术普及带来的风险。此外，美光科技、SK海力士等公司被移出清单，原因是其在实体AI领域的影响力有限或规模较小。

6月1日，据外媒The Decoder报道，Palisade Research举办的网络安全竞赛显示，AI智能体已能在部分情况下与人类黑客正面较量并取得胜利。在两场“夺旗赛”（CTF）中，AI表现出色，多数系统超越人类平均水平。首场比赛中，六支AI团队与150支人类队伍竞争，其中四支AI团队破解了19道题目，最高排名进入前5%。第二场“Cyber Apocalypse”中，CAI表现最佳，完成20项任务，位列前10%，超过约90%的人类团队。研究显示，AI能在78分钟内解决人类高手需同样时长完成的高难度题目。尽管如此，经验丰富的老手仍保持竞争力。