近日,由谢赛宁领衔的华人团队推出全新编程竞赛基准LiveCodeBench Pro,测试中顶级大模型全军覆没,无一得分。该基准题库每日更新,涵盖IOI、Codeforces和ICPC竞赛题,防止模型刷题。测试显示,模型在知识密集型和逻辑密集型问题上有一定表现,但在观察密集型问题上表现欠佳。表现最佳的模型在中等难度题上的通过率仅为53%,难题通过率为0。即使工具调用被屏蔽,顶级模型的Elo评分仍低于人类大师级水平。团队成员多为奥林匹克竞赛获奖者,超半数为华人,且团队年轻化,成员来自顶尖学府。该项目旨在持续评估大模型算法逻辑深度,每个季度将发布全新评估集。
原文链接
本文链接:https://kx.umi6.com/article/20456.html
转载请注明文章出处
相关推荐
换一换
Kimi 和 DeepSeek,为什么出现在同一张模型架构图里?
2026-09-30 16:49:42
Jev爆火硅谷!哑巴AI卷疯14万开发者
2026-09-21 10:43:57
我们让 GPT‑6 Astra、Fable 5.1 和 Sol 控制同一台机器人:谁真的把活干完了?
2026-09-30 15:47:53
雷军宣布:小米AI人才招聘专项正式启动!
2026-03-30 16:59:23
10万国产卡支持!智谱发布轻量级旗舰模型对标DeepSeek
2026-08-27 00:50:13
STEPX首款大模型原生智能体手机STEPX Neo正式发布
2026-10-14 17:44:11
刚刚,港股AGI第一股杀疯了!Agent业务半年进账近5亿,Token收入Q2暴涨500%
2026-08-28 18:21:32
啊啊啊GPT-6 Astra这么不安全!这次马斯克都瘫坐了
2026-09-21 16:56:06
国产AI又一轮爆发 MiniMax M3大模型要来了:10-15倍性能改善
2026-05-27 12:26:00
持续霸榜!阿里千问3.6Plus问鼎全球大模型调用周榜冠军
2026-04-07 12:52:26
马斯克直呼完了:Anthropic 73页论文刷屏,全球大模型中招思想病毒!
2026-08-20 16:35:22
刚刚,Meta最强旗舰碾压GPT-6和Opus!一夜杀回世界前三
2026-10-13 09:53:19
15元买数百万Token:一句你好烧掉5万
2026-06-18 01:04:32
835 文章
1079610 浏览
24小时热文
更多
-
2026-10-22 11:40:49 -
2026-10-22 10:39:20 -
2026-10-22 10:37:52