10月23日，网络安全法修正草案二次审议稿将提请十四届全国人大常委会第十八次会议审议。据全国人大常委会法工委发言人王翔介绍，草案拟增加促进人工智能安全与发展的内容，并充实网络安全工作指导原则。此外，草案还将在个人信息保护方面加强与民法典和个人信息保护法的衔接，同时完善相关处罚规定。此前，该修正草案已于2025年9月在第十七次会议上完成初审，并根据各方意见进行了修改。此次修法旨在平衡安全与发展需求，推动网络与人工智能领域的规范化与创新。（财联社）

2025年9月15日，在国家网络安全宣传周主论坛上，《人工智能安全治理框架》2.0版正式发布。该版本由国家互联网应急中心牵头，联合多家机构和企业共同制定，旨在应对人工智能技术快速发展带来的新机遇与挑战。新版框架在2024年发布的1.0版基础上，结合技术发展与应用实践，优化风险分类、探索风险分级，并动态调整治理措施。国家互联网应急中心表示，2.0版顺应全球人工智能发展趋势，深化安全、伦理及治理共识，推动构建跨国界、跨领域、跨行业的协同治理格局，促进人工智能红利的普惠共享，助力形成安全、可信、可控的发展生态。

2025年9月12日，Eliezer Yudkowsky因提出“人工智能有99.5%的可能性会杀死你”而引发关注。这位MIRI创始人、OpenAI与DeepMind的早期推动者，同时也是《哈利·波特》同人文作者，以极端观点闻名硅谷。Yudkowsky认为，超级智能AI的发展将导致人类边缘化甚至灭绝，现有AI对齐技术无法应对潜在风险。他呼吁关闭包括Anthropic、OpenAI在内的科技公司，批评其‘炼金术式’开发模式。尽管其末日论备受争议，但其思想深刻影响了硅谷，包括奥特曼和马斯克等大佬。他还通过理性主义作品如《哈利·波特与理性之道》启发年轻一代，强调科学与逻辑的重要性。

2025年8月28日，在上海网络安全产业创新大会上，上海人工智能安全工作委员会正式揭牌成立。该委员会由上海市经信委指导，上海市人工智能行业协会与上海仪电(集团)有限公司联合商汤科技、阶跃星辰等多家AI与安全领域头部企业共同发起。委员会旨在推动“AI+安全”技术协同与治理创新，应对深度伪造、数据投毒等新型威胁，重塑产业防御范式，为人工智能与网络安全的融合发展提供支持。

8月14日，马斯克旗下xAI联合创始人伊戈尔·巴布什金宣布离职，并计划创立一家名为Babuschkin Ventures的风险投资公司。巴布什金此前领导xAI的工程团队，新公司将专注于支持人工智能安全研究及投资推动人类进步、探索宇宙奥秘的初创企业。这一动态引发业界关注，体现了AI领域持续创新与资源流动的趋势。

8月5日，国家安全部发文警示AI训练数据污染问题，指出虚假信息、偏见内容等‘数据投毒’行为对人工智能安全构成新威胁。研究表明，训练数据中仅含0.01%虚假文本，AI输出有害内容将增加11.2%，而0.001%的污染也会导致7.2%的有害输出上升。受污染数据可能通过‘污染遗留效应’影响后续模型训练，尤其在金融、公共安全、医疗健康等领域，风险更为显著。例如，虚假信息可能引发金融市场波动、误导舆论或危及患者安全。当前，AI生成内容已远超人类真实内容，低质量数据的累积正逐代扭曲AI认知能力。

7月26日，2025世界人工智能大会‘人工智能发展与安全’会议在上海召开，杰弗里・辛顿等4位图灵奖得主及20多位专家出席。会上发布了《中国人工智能安全承诺框架》，由中国信通院牵头，清华大学等单位共同参与。框架新增国际合作与前沿风险防范内容，展现中国推动人工智能向善的开放态度。下一步，中国信通院将通过测试验证等方式推动框架落地，并加强国际治理合作，为全球人工智能安全贡献中国智慧。

2025年7月26日，诺贝尔物理学奖得主、人工智能教父杰弗里·辛顿首次来到中国上海，参加上海人工智能大会。辛顿此行重点探讨AI欺骗性行为的风险，并参与了‘AI安全国际对话’会议，与多位科学家共同提出AI安全的‘上海共识’。共识呼吁开发者提供安全保障、加强国际协调、投资安全性开发方式。尽管因腰伤无法久坐，辛顿仍发表了关于AI安全的演讲，警告比人类更智能的AI可能带来的威胁，并提议建立国际合作机制以确保AI向善。当天下午，他还参加了公开对话活动，分享了对多模态模型主观体验的看法及对年轻科学家的建议。

7月26日，在中国人工智能产业发展联盟第十五次全会上，荣耀、中国信通院、阿里、百度等行业领军机构联合发布《人工智能安全承诺》实践披露成果。该承诺围绕风险管理、模型安全、数据安全等6大核心内容，提炼出20项关键安全标签，并公开43项企业典型实践，旨在推动我国人工智能安全治理迈向体系化、透明化和实操化新阶段。此举为全球贡献了“以人为本、智能向善”的中国方案。（记者 黄心怡）

7月18日，人工智能安全监管制度建设座谈会在国家互联网应急中心召开。会议聚焦人工智能技术快速发展带来的新型安全风险与挑战，深入探讨建立健全相关法律法规、安全测评体系、高质量数据集及风险监测预警机制等议题。国家互联网应急中心分享了技术支撑人工智能安全监管的进展。中央网信办网络安全协调局负责人总结发言，强调将贯彻关于人工智能安全监管的重要指示精神，加强与人大代表和政协委员的沟通，推动人工智能安全监管制度建设。