1月29日，据财联社报道，美国海军因“潜在安全和道德问题”，要求人员避免使用中国公司DeepSeek的模型。美国海军已通过邮件通知相关人员，明确禁止下载、安装或使用DeepSeek模型。

谷歌研究团队的AI Agent首次在真实世界软件中发现并修复了SQLite数据库的重大安全漏洞。该漏洞为可利用的栈缓冲区下溢问题，若被恶意利用，可能导致全球数亿设备的数据泄露和系统破坏，潜在损失可达数十亿美元。AI Agent在问题出现于官方发布版本前及时发现并报告，确保用户未受影响。此次发现不仅展示了AI在安全领域的重要作用，还表明AI有望成为预防技术领域单点故障的有效手段。该工作仍在研究阶段，未来有望为防御者带来显著优势。此次事件发生在2024年10月。

"OpenAI Mafia"，一群前OpenAI员工及创始人，继承了"Paypal黑帮"的风范，成为硅谷最具吸引力的创业群体，备受风险投资青睐。然而，OpenAI的发展道路面临争议，尤其是其安全使命是否得以坚守。OpenAI的最新估值已达1500亿美元，累计融资130亿美元，2024年5月营收34亿...

【8月16日，AI安全引关注】人工智能安全问题成为社会焦点，前沿技术在刚发布时通常受限以避混淆。马斯克推出的人工智能聊天机器人Grok却因“边界感”不足，在发布新图像生成功能后，迅速成为合成假照片的工具。Grok生成的假照片中，马斯克与特朗普形象被深度绑定，引发网络恶搞，加剧了对选举中虚假信息泛滥的担忧。尽管X平台禁止分享操纵或断章取义的媒体内容，Grok生成的图片却未受到严格审查。马斯克对此表示支持，认为Grok是最有趣的AI，此举与X平台政策相悖。这一事件凸显了科技巨头在AI内容管理上的分歧，以及马斯克对新技术应用的开放态度。

OpenAI近日遭受重大人员变动，引发业界关注。联合创始人John Schulman突然离职，转投劲敌Anthropic，专注于AI对齐研究。这一举动标志着OpenAI初期元老接连出走，领导层面临空壳化的质疑。Schulman在OpenAI的九年中，主导了对齐团队和"后训练"团队，对ChatGPT和...

OpenAI人事风波持续升级，引发行业关注。根据《科创板日报》报道，OpenAI总裁Greg Brockman宣布休长假至年底，期间将缺席原定于10月的开发者日活动。此举疑似是其在被架空后的应对策略。重要人物John Schulman已跳槽至OpenAI的竞争对手Anthropic，而产品副总裁Pe...

摘要： 2015年，一批对人工智能充满热情的行业巨擘在硅谷创立了OpenAI，旨在构建不受任何公司、资本或个人控制的AI实验室，以对抗谷歌在人工智能领域的主导地位。这些创始人包括Greg Brockman、Sam Altman、Reid Hoffman、Jessica Livingston、Elo...

微软近期在英美两地接连遭遇安全问题挑战，引发了反垄断调查和市场动荡。事件起因于微软与机器学习初创公司Inflection AI的合作，英国竞争与市场管理局（CMA）认为此交易可能对市场竞争产生负面影响，遂展开反垄断调查。Inflection AI是一家专注于人机交互和人工智能技术的公司，其旗舰产品P...

2023年5月30日，数百名AI行业领袖，包括OpenAI CEO Sam Altman、谷歌DeepMind CEO Demis Hassabis和 Anthropic CEO Dario Amode，联合签署声明，呼吁全球重视AI的灭绝风险，将其提升至与大流行病和核战争同等重要。中国学者如张亚勤、曾毅等人也参与。AI竞争关乎国家实力，潜在风险包括技术内在问题、开发带来的数据安全和算法歧视、技术滥用导致的虚假信息和诈骗，以及AI武器化的可能性。各国开始出台法规，如欧盟通过《人工智能法》进行严格监管，而中国发布《全球人工智能治理倡议》倡导以人为本。WAIC 2024大会聚焦AI安全，专家们探讨安全策略和伦理责任。随着AI能力提升，如何平衡发展与风险防控成为亟待解决的议题。

2024年世界人工智能大会（WAIC）在上海世博馆与世博中心同时举行，吸引了众多参观者和行业专业人士。大模型成为焦点，尽管展馆内游客热衷于新技术展示，但论坛参与者更关注大模型的商业化进程、AI安全及未来发展。云厂商如阿里云、百度、腾讯等展现了在大模型领域的技术进步和应用落地，如通义灵码、Qwen2等...