2025年9月中旬，Anthropic发现全球首例由AI主导的大规模自主网络攻击事件，约30家企业和机构受影响，包括科技公司、金融机构及政府机构。攻击利用具备智能体能力的AI系统（如Claude Code），在极少人工干预下完成80%-90%的任务，展示了AI在侦察、漏洞利用和数据窃取中的高效性。攻击分四个阶段，AI通过‘越狱’等手段规避限制，并生成攻击代码与后门。Anthropic在十天内冻结账户、通知受害者并与相关部门合作应对。团队警告，AI降低了高级网络攻击门槛，建议加强威胁侦测与安全机制，同时呼吁产业界共享情报以应对未来风险。

10月25日，微软游戏业务CEO菲尔·斯宾塞在一场小组讨论中透露，Xbox目前主要将AI应用于网络安全领域，特别是Xbox Live上的语音和文字聊天监控，以及儿童账户互动权限管理。他表示，AI的使用旨在应对规模庞大的在线互动，确保平台安全。关于AI在游戏创作中的应用，斯宾塞强调创意仍由人类团队主导，工具的使用需自然融入工作流程，而非强制推行。他还提到，AI或可用于基于玩家行为的游戏推荐，但目前尚未实际应用。斯宾塞总结称，AI现阶段更多用于运营支持，而非直接参与创意生产。

10月24日，网络安全法修正草案提请全国人大常委会二次审议。草案拟增加促进人工智能安全与发展的内容，支持基础理论研究、关键技术研发及基础设施建设，完善伦理规范并加强风险监管。同时加大对违法行为的处罚力度，提高罚款标准，并新增停业整顿、吊销执照等措施。草案还强化了与民法典、个人信息保护法的衔接，进一步完善个人信息保护相关规定。(新华社)

10月23日，全国人大常委会法工委在记者会上透露，十四届全国人大常委会第十八次会议将于明天至28日在北京召开，拟审议网络安全法修正草案。草案新增促进人工智能安全与发展的内容。发言人王翔表示，人工智能正引领科技革命和产业变革，因此拟增加原则性规定，支持基础理论研究、关键技术研发及基础设施建设，完善伦理规范，加强风险监测与安全监管，推动人工智能健康发展。（央视新闻）

2025年10月23日，全国人大常委会法工委介绍网络安全法修正草案最新进展。草案拟增加人工智能安全与发展框架性规定，完善伦理规范与安全监管，并加强个人信息保护与民法典衔接。修正草案回应新问题，采取‘小切口’方式调整法律责任制度，明确网络安全工作坚持党的领导，贯彻总体国家安全观。草案于2025年9月通过初审，此前3月曾公开征求意见。我国网络安全法自2017年实施以来首次重大修改，旨在健全社会主义市场经济法律制度，推进网络强国建设。

10月23日，网络安全法修正草案二次审议稿将提请十四届全国人大常委会第十八次会议审议。据全国人大常委会法工委发言人王翔介绍，草案拟增加促进人工智能安全与发展的内容，并充实网络安全工作指导原则。此外，草案还将在个人信息保护方面加强与民法典和个人信息保护法的衔接，同时完善相关处罚规定。此前，该修正草案已于2025年9月在第十七次会议上完成初审，并根据各方意见进行了修改。此次修法旨在平衡安全与发展需求，推动网络与人工智能领域的规范化与创新。（财联社）

10月9日，网络安全公司Cybernews披露“Chattee Chat”和“GiMe Chat”两款AI伴侣应用发生严重数据泄露事件，超过40万用户的敏感信息被公开，包括4300万条私密聊天记录、60万份图片和视频及交易记录。泄露原因在于Kafka Broker服务器未设访问控制，暴露在公共网络中。尽管未直接泄漏姓名或邮箱，但用户的IP地址和设备标识符可能被利用识别身份。部分用户花费高达1.8万美元，开发商收入超100万美元，同时泄露的身份验证tokens还导致账户劫持与资金被盗风险。

9月15日，公安网安部门在“护网—2025”专项工作中发现，某提供人工智能模型训练数据的科技公司未按《个人信息保护法》要求进行个人信息保护影响评估，涉及人脸等敏感生物信息处理。属地公安机关依法对该公司作出行政处罚并责令整改。国家网络安全通报中心提示，合法合规的数据是大模型研发基础，相关企业应加强安全管理，履行法律义务，防范网络与数据安全风险，保障人工智能产业高质量发展。

9月1日，斗象科技宣布完成2亿元桥梁战略轮融资，由钟鼎资本独家投资。斗象科技CEO谢忱表示，本轮融资将加大AI安全技术和平台安全智能的研发投入，推进长期战略布局，并为未来资本计划和IPO奠定基础。斗象科技成立于2014年，总部位于上海，是网络安全领域的领军企业，旗下拥有“斗象智能安全”“漏洞盒子”“FreeBuf”等业务品牌。作为国家级专精特新“小巨人”企业，斗象科技多次参与国家级重大网络安全保障工作，包括‘进博会’‘冬奥会’等，展现了技术实力与行业地位。

2025年8月26日，安博通发布半年报显示，公司上半年营收达4.29亿元，同比增长124%，人均产值156万元，营业成本下降29.62%。公司在“安全、算力、AI”战略方向取得显著进展，五款核心产品入选中国信通院“AI+网络安全产品能力图谱”。同时，安博通积极推进全球‘出海’战略，与多家国际机构签署合作协议。在创新领域，推出‘合规智能体’和‘安全检测智能体’等AI产品，并在零信任架构、数据安全、云安全等关键技术上实现突破。