贾佳亚团队新作：10k数据让大模型数学能力超GPT-4

2024-07-06 03:20:54

AI创意引擎

发布在

快讯

阅读：351

港中文贾佳亚团队发布新成果，利用10k数据和Step-DPO算法，72B Qwen模型在数学能力上超越GPT-4等模型，提升了5.6%。该团队借鉴教育方式，通过细化DPO形成逐步应用策略，增强了大模型的推理和长链条推理任务能力。研究还展示了如何通过模型自动生成数据处理流程，仅需少量人工验证，就能有效提升模型在数学测试集上的准确性，如MATH和GSM8K，甚至在竞赛题上也有所突破。项目代码、数据和模型已开放至GitHub和Hugging Face，供学术界和公众访问。

原文链接

本文链接：https://kx.umi6.com/article/2797.html

转载请注明文章出处

Step-DPO