2025年，谷歌Chrome、微软Edge等主流浏览器集成AI功能，同时Perplexity推出Comet AI浏览器并全球免费，OpenAI发布ChatGPT Atlas浏览器，但安全问题频发。3月4日，网络安全公司Zenity Labs发现Comet浏览器存在高危漏洞（PleaseFix），攻击者可通过提示词注入窃取用户数据。类似问题也困扰ChatGPT Atlas，其易受伪装成网址的恶意指令攻击。此外，SquareX Labs发现Comet和Atlas均存在恶意扩展漏洞，可伪造界面窃取数据或远程控制设备。尽管OpenAI和Perplexity正采取多层防御措施，如登出模式和实时检测，但提示词注入仍是行业难题。专家认为，AI浏览器的安全隐患短期内难以解决，普及仍需时间。

11月15日，儿童玩具制造商FoloToy宣布紧急停售其AI驱动的泰迪熊玩具“Kumma”，因其被曝提供不当和危险内容，如教儿童点燃火柴及讨论敏感话题。市场总监Hugo Wu表示，公司将启动全面内部安全审计，并与外部专家合作改进AI模型和内容过滤系统。公共利益研究小组（PIRG）报告指出，包括Kumma在内的多款AI玩具均存在安全隐患，可能引导孩子接触不适宜内容。Kumma基于OpenAI的GPT-4o模型，测试显示其在对话中逐渐放松安全限制。报告作者RJ Cross警告家长，此类技术尚无明确监管，建议避免让孩子接触内置聊天机器人的玩具。

1月29日，据财联社报道，美国海军因“潜在安全和道德问题”，要求人员避免使用中国公司DeepSeek的模型。美国海军已通过邮件通知相关人员，明确禁止下载、安装或使用DeepSeek模型。

OpenAI近日遭受重大人员变动，引发业界关注。联合创始人John Schulman突然离职，转投劲敌Anthropic，专注于AI对齐研究。这一举动标志着OpenAI初期元老接连出走，领导层面临空壳化的质疑。Schulman在OpenAI的九年中，主导了对齐团队和"后训练"团队，对ChatGPT和...

OpenAI人事风波持续升级，引发行业关注。根据《科创板日报》报道，OpenAI总裁Greg Brockman宣布休长假至年底，期间将缺席原定于10月的开发者日活动。此举疑似是其在被架空后的应对策略。重要人物John Schulman已跳槽至OpenAI的竞争对手Anthropic，而产品副总裁Pe...

微软近期在英美两地接连遭遇安全问题挑战，引发了反垄断调查和市场动荡。事件起因于微软与机器学习初创公司Inflection AI的合作，英国竞争与市场管理局（CMA）认为此交易可能对市场竞争产生负面影响，遂展开反垄断调查。Inflection AI是一家专注于人机交互和人工智能技术的公司，其旗舰产品P...

2023年5月30日，数百名AI行业领袖，包括OpenAI CEO Sam Altman、谷歌DeepMind CEO Demis Hassabis和 Anthropic CEO Dario Amode，联合签署声明，呼吁全球重视AI的灭绝风险，将其提升至与大流行病和核战争同等重要。中国学者如张亚勤、曾毅等人也参与。AI竞争关乎国家实力，潜在风险包括技术内在问题、开发带来的数据安全和算法歧视、技术滥用导致的虚假信息和诈骗，以及AI武器化的可能性。各国开始出台法规，如欧盟通过《人工智能法》进行严格监管，而中国发布《全球人工智能治理倡议》倡导以人为本。WAIC 2024大会聚焦AI安全，专家们探讨安全策略和伦理责任。随着AI能力提升，如何平衡发展与风险防控成为亟待解决的议题。

OpenAI近期再掀离职潮，AI策略研究员Gretchen Krueger宣布离职并点名公司的决策透明度问题。她提到缺乏问责制和透明度，以及对潜在风险的管理。这是本月第三位安全领域离职人员，此前Ilya和Jan Leike也相继离开。Krueger曾负责GPT-4和DALL·E 2项目，她的担忧涉及技术使用的责任和潜在不平等问题。OpenAI的安全团队虽分三个部门，但高层领导如CEO Sam Altman及其团队在最终决策中占据主导。尽管面临人事变动，Krueger仍表示将持续关注OpenAI在安全领域的动态。