标题:陶哲轩等60多位顶尖数学家提出新数学基准FrontierMath,挑战大模型
近日,一个名为FrontierMath的新数学基准问世,旨在评估AI的高级数学推理能力。这一基准由非营利研究机构Epoch AI联合陶哲轩等60多位顶尖数学家提出,他们原创了数百道极具挑战性的数学问题,涵盖现代数学的主要分支。
这些题目不仅新颖且未被公开,以避免数据污染。解决方案自动可验证,并难以通过猜测获得正确答案。大模型如o1、Claude 3.5 Sonnet、GPT-4o和Gemini 1.5 Pro等在FrontierMath上的解题率均低于2%,即便延长思考时间和提供Python访问权限,成功率仍低于2%。
FrontierMath的评估框架分为五个步骤:分析问题、提出策略、实施并执行代码、接收反馈、改进方法。模型需遵循特定格式提交答案,如使用#This is the final answer标记,并确保代码自包含。
陶哲轩等数学家一致认为这些题目极具挑战性,且该基准计划定期更新难题、扩大问题库并优化评审流程。这一基准有望推动大模型在数学推理方面的进步,使其更接近人类水平,尤其在连贯性和自主性等方面。
网友们认为,能在FrontierMath中取得高分的大模型将大有益处,有助于提升数学研究效率。
原文链接
本文链接:https://kx.umi6.com/article/8560.html
转载请注明文章出处
相关推荐
.png)
换一换
推理大模型1年内就会撞墙,性能无法再扩展几个数量级 | FrontierMath团队最新研究
2025-05-13 15:52:46
OpenAI 收购 Context.ai 团队,AI 评估能力再升级
2025-04-16 07:57:20
OpenAI o3 碾压式 AI 数学成绩遭质疑:既当选手又是裁判,翻版 Theranos 世纪骗局
2025-01-20 09:01:45
o1/Claude集体翻车!陶哲轩等60+顶尖数学家合力提出新数学基准
2024-11-11 16:53:34
LLM 数学基准测试集 FrontierMath 公布:号称多数题型 AI 没学过、业界模型均败北
2024-11-15 21:06:29
因延后披露受 OpenAI 资助事实,AI 基准测试组织 FrontierMath 被质疑行为不当
2025-01-20 22:26:27
Meta 发布新 AI 模型:利用 AI 来评估 AI 的能力,无需人类参与
2024-10-19 11:18:33
脑电波相亲?国产脑机的“曲线救国”
2025-09-09 20:20:55
AI教父自曝被前女友用AI分手 曾用ChatGPT证明他是“卑鄙小人”
2025-09-09 19:20:13
阿联酋推出低成本AI推理模型 宣称“性价比”超同行20倍
2025-09-09 22:23:30
工信部:将研究出台人工智能+制造专项行动实施方案
2025-09-09 11:14:37
ASML 官宣同 Mistral AI 达成战略合作伙伴关系,并向后者投资 13 亿欧元
2025-09-09 14:16:53
大模型破译甲骨文创下新 SOTA,复旦团队推出新框架
2025-09-08 14:00:34
515 文章
181153 浏览
24小时热文
更多

-
2025-09-10 05:28:36
-
2025-09-10 05:27:24
-
2025-09-10 04:26:05