MiniMax M1全球技术闭门会探讨了RL、混合架构及长上下文的前沿话题。

RL能否赋予模型新能力？
RL在有限上下文长度下能提升模型能力，通过改变输出分布优化性能。例如，预训练需10万token解决的问题，经RL可能仅需1万token。然而，Reward Modeling仍是核心瓶颈，尤其是非结果导向的奖励建模。

预训练的价值在于多样化数据分布
预训练为模型提供更广泛的知识基础，而RL则专注特定领域的深度优化。当前，RL受限于清晰定义的环境，扩展至模糊环境仍具挑战。

数学和代码上的RL训练易导致幻觉
专注于数学与编程的RL训练会降低模型在事实性任务上的表现，因此需要更多样化的RL数据集，如WebInstruct-verified。

混合架构将成为主流
混合注意力机制结合了线性注意力和全注意力的优点，解决了长序列建模中的效率问题。未来研究应探索更多样的混合形式，并注重硬件适配。

长上下文是Agent的Game Changer
超长上下文支持复杂项目的一次性处理，显著提升智能体的任务质量，尤其在法律、技术支持等领域展现巨大潜力。

混合线性注意力对推理的影响
混合线性注意力虽需生成更多token，但通过适当的算力分配可媲美全注意力架构。评估时应基于固定计算预算而非输出长度。

System 2推理与自我反思
这些能力源于扩展计算资源，使模型能够自动深化问题分析并生成详细推理路径。

RL领域最令人兴奋的挑战
包括Reward Modeling、多智能体交互、AI自动化研究及非Token空间推理等方向。

图像思考的探索
现有视觉推理方法主要增强感知能力，未来需突破潜在空间中的视觉编码与推理限制。

M1的问答亮点
1. RL微调稳定性：线性注意力在大规模训练中可能出现激活值爆炸问题，修复后混合模型性能显著提升。
2. System 2推理本质：通过扩展计算资源，模型能涌现复杂的推理模式。

总结来看，MiniMax M1展示了混合架构与长上下文的巨大潜力，同时揭示了RL与系统设计的未来方向。