腾讯混元最新推出万亿参数级异构MoE结构的大模型混元Turbo，其在参数规模、性能及成本优化等方面实现显著提升。混元Turbo在业界公认的基准测试中表现优异，位于国内行业领先地位，与国际顶级模型GPT-4等相匹敌。该模型采用了创新的分层异构MoE结构，通过优化算法和训练推理框架，相较于上一代混元Pro模型，其推理效率提升了超过1倍，推理部署成本降低了50%，推理时延减少了20%。 在训练阶段，混元Turbo采用了混元CriticModel和RewardModel构建自我提升管道，以及结合离线数据和在线采样的强化学习策略，这相较于传统的PPO和DPO方法，其效果上限更高且可控性更好。针对大模型常见的文科能力弱、理科能力不足问题，混元Turbo进行了专项优化，包括高质量文本创作、数学和逻辑推理能力的全面提升。文本创作上，混元Turbo在高考作文写作能力评测中取得第一，数学能力在多个评测集上达到业界先进水平，逻辑推理能力也实现了显著提升。 此外，混元Turbo还支持AI搜索联网插件，通过整合腾讯优质内容生态和全网搜索能力，增强AI问答能力。混元大模型全面建立在腾讯自研的Angel机器学习平台和强大算力基础设施之上，其训练框架AngelPTM和推理加速框架AngelHCF在参数处理、通信效率和推理性能上均实现了优化，助力混元Turbo在性能和成本之间取得了平衡。 混元Turbo已在腾讯云官网API上架，并在腾讯元宝APP中向C端用户开放，提供AI搜索、AI阅读、AI写作和AI作画等核心功能，结合腾讯生态系统，为用户提供丰富、权威的内容和服务。