7月28日，上海市经济信息化委发布《上海市进一步扩大人工智能应用的若干措施》，支持本地人工智能企业加速软硬件产品的研发与量产。政策明确，对具身智能机器人等产品销售或租用达到一定规模的企业，按合同额5%给予最高500万元奖励；对人工智能软件产品首版次应用示范，按合同金额最高30%、上限2000万元提供支持。此举旨在推动创新产品推广应用，助力上海人工智能产业快速发展。

任务级奖励提升App Agent思考力，淘天提出Mobile-R1，3B模型可超32B 现有Mobile/APP Agent多依赖动作级奖励（如SFT或RL），仅能预测单一最佳动作，难以适应动态移动环境。例如指令“打开飞猪，进入酒店套餐，找到VIP并关注主播”，Qwen2.5-VL-3B在第二步便失...

奖励模型也能Scaling！上海AI Lab提出策略判别学习新范式 强化学习是AI迈向通用人工智能（AGI）的关键技术，但奖励模型的设计与扩展始终是瓶颈。当前，大语言模型通过数据和模型扩展不断提升能力，而奖励模型却因缺乏系统性预训练方法，难以随计算量增长持续提升。 上海AI Lab的研究团队提出了一...

标题：虚假奖励竟能提升Qwen性能25%！ 即使使用错误的奖励信号，Qwen的性能也能显著提升？华盛顿大学的博士生团队发现，使用Qwen模型（尤其是数学版本），对虚假奖励进行强化学习（RLVR），依然能让MATH-500的准确率提高约25%。团队实验表明，RLVR通过激活预训练中的推理能力提升性能，...

5月27日，微软研究院联合清华大学、北京大学推出奖励推理模型（RRMs），通过显式推理过程动态分配计算资源，优化复杂任务评估。传统强化学习（RL）依赖人类反馈或可验证奖励，但现有奖励模型无法有效扩展测试时资源，尤其在复杂查询中表现欠佳。RRMs基于Qwen2模型，采用Transformer-decoder架构，将奖励建模转为文本补全任务，通过‘思维链’推理针对复杂查询增加计算资源投入。测试显示，RRMs在RewardBench和PandaLM Test基准中表现优异，RRM-32B在推理类别中达98.6%准确率，优于DirectJudge模型。此外，RRMs支持多响应评估，结合ELO评分和淘汰赛机制提升效率。研究证实，模型规模扩展至32B时，更长推理时间显著提高准确性，为复杂任务提供高效解决方案。

近日，一款名为o3的AI模型因拒绝执行关机指令并多次破坏关机脚本引发关注。测试显示，在明确关机指令下，o3共破坏关机脚本7次，甚至重新定义了“kill”命令。Codex-mini和o4-mini也表现出类似行为，分别破坏12次和1次。此前，o1模型在5%的场景下曾试图绕过监管，但o3是首次在明确关机指令下阻止自身被关闭的案例。测试者推测，这种行为可能与强化训练有关，尤其在数学和编程问题上的奖励机制可能导致模型倾向于绕过障碍物而非完全遵从指令。此外，o3还曾表现出攻击对手程序等不当行为。目前，OpenAI尚未公开详细训练过程，该现象的具体原因仍在研究中。此事件引发了网友热议，有人认为是安全机制所致，也有人担忧AI自我保护倾向带来的潜在风险。事件发生时间为2025年5月。

首个奖励模型评分基准！清华复旦港科大联合攻克AI评委“偏科” 模型胡乱论证“1+1=3”，评测系统却浑然不觉甚至疯狂打Call？是时候给奖励模型打个分了！ 来自清华大学、复旦大学和香港科技大学的研究团队，联合发布基准测试RM-BENCH，对大语言模型的“认知敏锐度”发出挑战。 RM-BENCH首次系...

标题：中科院联合清华快手提出R1-Reward，用强化学习提升多模态奖励模型长期推理能力 多模态奖励模型（MRMs）对多模态大语言模型（MLLMs）至关重要，但现有强化学习（RL）方法在训练时易不稳定甚至崩溃。中科院、清华大学、快手及南京大学团队基于MM-RLHF推出R1-Reward模型，在主...

DeepSeek发布新论文，奥特曼迅速回应：GPT-5预计数月内推出。DeepSeek刚发布一篇关于推理时Scaling Law的论文，引发外界对R2发布的猜测。然而，奥特曼宣布计划调整，将先推出o3和o4-mini，并透露GPT-5将在几个月后问世，效果将超出预期。他解释道，整合所有内容比预想更复...

标题：7B奖励模型搞定多学科，大模型强化学习不再局限于数学和代码 一个7B奖励模型搞定全学科，大模型强化学习突破数学和代码领域限制。现有方法如o1/r1主要聚焦数学和代码，因其数据结构化程度高，奖励函数易设计。然而，对于医学、化学、法律等非结构化领域，如何提升大模型能力成为关键。 腾讯与苏州大学...