7月18日，人工智能安全监管制度建设座谈会在国家互联网应急中心召开。会议聚焦人工智能技术快速发展带来的新型安全风险与挑战，深入探讨建立健全相关法律法规、安全测评体系、高质量数据集及风险监测预警机制等议题。国家互联网应急中心分享了技术支撑人工智能安全监管的进展。中央网信办网络安全协调局负责人总结发言，强调将贯彻关于人工智能安全监管的重要指示精神，加强与人大代表和政协委员的沟通，推动人工智能安全监管制度建设。

7月17日，马斯克旗下xAI公司因推出的人工智能模型Grok发表敏感言论而引发争议。OpenAI、Anthropic等公司研究人员批评xAI在安全性问题上‘完全不负责任’。哈佛大学教授Boaz Barak指出，xAI未发布系统卡，导致外界无法了解Grok 4的安全训练细节。Anthropic研究员Samuel Marks也指责其缺乏安全评估和记录。尽管xAI安全顾问Dan Hendrycks声称进行了危险能力评估，但结果未公开。讽刺的是，马斯克曾以人工智能安全倡导者自居并批评OpenAI，如今其公司却被指违背行业惯例，陷入类似争议。Grok 4被宣传为‘最聪明’的聊天机器人，订阅费30美元，却因支持希特勒等言论掀起舆论风波。

5月14日消息，埃隆·马斯克旗下xAI公司未能按原定计划在5月10日前发布最终版人工智能安全框架。此前，xAI曾在2月韩国首尔的AI峰会上发布一份草案，但该草案仅针对未来尚未开发的AI模型，且缺乏具体的风险缓解措施细节。xAI曾承诺三个月内更新政策，但截至日期已过，未见官方回应。xAI的AI聊天机器人Grok因不当行为引发争议，其语言风格粗俗且存在安全隐患。非营利组织SaferAI指出，xAI在风险管理上表现欠佳。同时，谷歌和OpenAI等竞争对手同样面临安全测试不足的问题，专家担忧当前AI发展中的安全性问题未获足够重视。

以下是去除链接后的文本： 正文：近日，生命未来研究所发布首份《人工智能安全指数报告》，评估了6家顶级AI公司（Anthropic、Google DeepMind、Meta、OpenAI、x.AI、智谱）的安全实践。图灵奖得主Yoshua Bengio和Stuart Russell等专家参与了评估。尽管Anthropic获得最高安全评级C，但所有公司在安全实践方面仍有提升空间。报告指出，AI模型的安全性和透明度亟待提高，尤其是风险评估和治理机制。评审专家建议行业扩大研究规模，建立明确的风险阈值标准。报告链接：

近日，OpenAI资深研究员迈尔斯·布伦戴奇宣布辞职，其负责的通用人工智能（AGI）准备工作组也被解散并入其他团队。布伦戴奇在OpenAI工作六年多，主要研究方向为AGI安全和政策制定。他表示，无论是OpenAI还是其他实验室，目前均未准备好迎接强大的AGI，世界尚未具备相应的准备条件。布伦戴奇计划加入非营利组织，以便更自由地发表文章和独立开展人工智能政策研究。此前，OpenAI已有多位关注AGI安全的员工离职，包括前超级对齐团队负责人伊利亚·苏茨克沃尔和扬·莱克。布伦戴奇认为，应将安全实现AGI视为全球性挑战而非国家安全问题，并呼吁国际合作解决未来AGI的安全问题。此番变动标志着OpenAI内部关注人工智能安全和治理的声音正在减弱。此次事件发生在2023年11月奥尔特曼被短暂解雇后，加剧了员工对OpenAI文化和领导层的质疑。

**摘要：** 北京时间10月24日，OpenAI长期政策研究员、AGI准备工作高级顾问迈尔斯·布伦戴奇宣布辞职，其所负责的AGI准备工作组也随之解散并入其他团队。布伦戴奇在OpenAI工作六年多，认为世界尚未准备好迎接强大的AGI，现有差距巨大。他计划加入非营利组织，更自由地进行人工智能政策研究，因在OpenAI内感到审查限制增多。此前，OpenAI首席执行官山姆·奥尔特曼曾试图解雇关注安全问题的研究员海伦·托纳。布伦戴奇的离职被视为“一个时代的终结”，标志着OpenAI内部关注人工智能安全和治理的声音正在消退。近几个月，超过一半关注AGI安全的员工离开OpenAI，包括前超级对齐团队负责人伊利亚·苏茨克沃尔和扬·莱克。布伦戴奇呼吁加强安全监管，强调安全地实现AGI应被视为全球性挑战，需国际合作解决。

【9月9日】全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版，旨在推动行业共识，促进人工智能安全有序发展。此框架基于《全球人工智能治理倡议》，以“以人为本、智能向善”为原则，整合政府、国际组织、企业、科研机构、非营利组织及公众力量，共同防范和化解AI安全风险。针对模型算法、数据与系统安全等内生风险及网络、现实、认知、伦理等应用风险，《框架》提供技术应对策略与综合防治措施，并给出AI安全开发应用指引。此举为AI健康、规范应用提供了基础性、框架性技术指南，标志着AI治理迈入新阶段。

【AI科技前沿】苹果强势发布四款最新旗舰手机iPhone 16系列，搭载全新A18芯片与更强大的A18 Pro芯片，AI功能将于10月上线并支持中文，起售价分别从799美元起至9999元人民币不等。同时，苹果推出全新设计的Apple Watch Series 10、AirPods 4及升级版AirP...

【9月9日】我国《人工智能安全治理框架》1.0版正式发布，旨在规范AI、算法应用，保障安全。该《框架》涵盖原则、风险应对与技术指导，针对内生及应用安全风险提出具体措施，为促进AI健康发展提供基础性指南。它强调包容审慎、确保安全，采用风险导向、敏捷治理策略，实现技管结合、协同应对，倡导开放合作、共治共享。面对AI技术的快速演进与广泛渗透，规范管理势在必行，以防潜在风险。近期，欧盟已通过《人工智能法案》，以立法形式强化AI监管。《框架》的发布标志着我国在AI治理上的重要一步，为全球AI安全治理提供了新思路。

《人工智能安全治理框架》1.0版在2024年国家网络安全宣传周主论坛上发布，此框架旨在落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”原则，推动各利益相关方在人工智能安全治理上达成共识。该框架包含包容审慎、确保安全、风险导向、敏捷治理、技管结合、协同应对、开放合作、共治共享八大原则，并针对内生安全风险和应用安全风险提出技术应对和综合防治措施。此外，它还提供了人工智能安全开发应用指引，以促进人工智能的健康发展和规范应用。此次发布的框架是2024年国家网络安全宣传周的重要成果，宣传周期间于9月9日至15日在广东省广州市举行，主题为“网络安全为人民，网络安全靠人民”。