.png)
2025年9月，SGLang团队联合slime团队发布首个实现100%可复现的稳定强化学习（RL）训练框架。该框架基于批次不变算子和定制注意力逻辑，解决了LLM推理中因动态批处理导致的不确定性问题，实现了完全确定性推理，并兼容分块预填充、CUDA Graph等功能。实验显示，其性能下降平均为34.35%，远优于此前的61.5%。目前主要适用于调试与复现场景，未来将优化算子性能并扩展支持MoE模型等。项目已开源，欢迎开发者试用反馈。
原文链接
本文链接：https://kx.umi6.com/article/25972.html
转载请注明文章出处
分享至
打开微信扫一扫
内容投诉
生成图片
.png "25972")
相关推荐
.png)
换一换
首个开源实现100%可复现的稳定RL训练框架来了！2次结果完全重合
2025-09-27 11:40:10
AMD：已将 DeepSeek-V3 模型集成到 Instinct MI300X GPU 上，利用 SGLang 彻底改变 AI 开发
2025-01-25 18:01:34
业界首个高质量原生3D组件生成模型来了！来自腾讯混元团队
2025-09-27 13:42:44
日产汽车计划在2027财年内推出集成人工智能技术的下一代ProPILOT超智驾
2025-09-26 17:36:22
微软 AI CEO 苏莱曼：未来的 AI 恐将需要“军事级干预”才能控制
2025-09-25 20:11:53
合思马春荃：财务上AI，从无需报销开始
2025-09-27 00:34:30
AI当前面临的最大瓶颈是什么
2025-09-26 11:25:25
角逐2nm
2025-09-26 21:33:45
OpenAI 发布 AI 打工人报告：前沿模型完成专家级任务，速度快 100 倍，成本仅 1%
2025-09-27 09:38:47
AGI又进一步了？谷歌AI模型重磅更新 助机器人感知环境完成复杂任务
2025-09-26 11:34:30
ChatGPT推出新功能：基于聊天历史推送个性化每日资讯
2025-09-26 02:15:31
超10万亿Tokens的高质量数据集是怎么炼成的？专访中国电信天翼AI阮宜龙
2025-09-26 10:23:37
编程即将被打穿？“使用”AI已过时，你准备好“委托”了吗？
2025-09-27 08:38:26
496 文章
220615 浏览
24小时热文
更多
-
2025-09-27 13:43:19 -
2025-09-27 13:42:44
-
2025-09-27 13:42:07
