标题：DeepSeek向王一博道歉闹剧：AI幻觉不是病，别治了 前几天，一场由AI幻觉引发的舆论风波席卷网络。不少网友发现，DeepSeek因“误将演员王一博卷入腐败案”而发布了一份看似权威的道歉声明和“刑事判决书”，甚至被部分媒体当作真实新闻报道。然而，这其实是一场由大模型幻觉和虚假信息拼贴引...

近期，OpenAI离职员工创办的多家初创公司引发关注。Safe Superintelligence（SSI）已获20亿美元融资，而Thinking Machines Lab（TML）也在寻求145亿元人民币的种子轮融资，a16z和红杉资本有意参与。TML由前CTO米拉·穆拉蒂创立，团队汇聚了大量OpenAI精英，包括约翰·舒尔曼、巴雷特·佐夫等。他们聚焦AI对齐与人机协作，致力于构建安全可靠的下一代AI系统。穆拉蒂强调AI应服务于人类进步，这一理念受到广泛认可。与此同时，OpenAI前员工创办的多家公司崭露头角，如Anthropic、Eigen Robotics、Eureka Labs等，涉及AI伦理、机器人技术等多个领域，展现了离职员工的创业热潮。

4月8日，深度求索（DeepSeek）联合清华大学发布AI对齐新技术SPCT，通过推理阶段动态优化显著降低训练成本。SPCT采用“原则合成-响应生成-批判过滤-原则优化”递归架构，大幅减少人工标注需求及能耗。测试显示，270亿参数的DeepSeek-GRM模型成本仅1.2万美元，MT-Bench得分8.35，媲美GPT-4o。相较3400亿参数的Nemotron-4（120万美元）和1.8万亿参数的GPT-4o（630万美元），DeepSeek-GRM成本仅为其1/525，能耗降低73%，为实时机器人控制等场景提供新思路。

标题：大模型“对齐”脆弱得像饺子皮 在大模型迈向通用人工智能（AGI）的过程中，“AI对齐”被认为是守护人类的最后一道防线。图灵奖得主约书亚·本吉奥指出，AI对齐不仅是技术问题，更是伦理和社会问题。AI对齐的核心目标是通过微调、强化学习等手段，确保大模型始终忠于人类价值并拒绝有害行为。 大模型公...

2024年，OpenAI发布了AGI进展，最高测试成绩达到类人水平。OpenAI首席执行官Sam Altman表示，公众最期待的是AGI产品。然而，对于AGI的定义仍有争议。Meta首席科学家杨立昆认为应称其为“人类水平的AI”。邓建国指出，AI认知混乱，实际发展水平与科幻电影差距大。Nick Bostrom提出创造成为良好宇宙公民的超级智能。辛顿认为高智能系统可能失控威胁人类。AI的欲望和目标对齐成为关键议题。2025年，AI将进入创新扩散阶段，应用将更广泛，垂直领域将出现更多专业模型。

新闻摘要： Anthropic，一家成立于2021年的人工智能初创公司，近期吸引了OpenAI前员工John Schulman的加入，进一步强化了其在AI领域的竞争力。 Schulman的离职并非出于对原公司的不满，而是寻求更专注于AI对齐研究的机会，这与之前离开OpenAI的首席科学家Ilya ...

OpenAI近期遭遇重大震荡，联合创始人兼ChatGPT后期训练负责人John Schulman宣布离职，转投竞争对手Anthropic，从事技术研究。同时，OpenAI总裁Greg Brockman延长休假至年底，产品负责人Peter Deng也已离职。对此，Brockman回应称，休假是为了“构...