牛津大学互联网研究所联合30多位研究人员发布研究称,当前用于评估AI模型性能的基准测试普遍存在夸大问题,缺乏科学严谨性。研究分析了445项主流基准测试,发现约一半未能明确定义测量目标,且常重复使用数据和方法,统计比较也不够可靠。高级研究员亚当・马赫迪指出,这些测试可能误导公众对AI能力的认知,例如通过GSM8K测试评估数学推理能力时,答对问题未必代表真正具备推理能力。研究呼吁改进基准测试,提出八项建议,包括明确评估范围、构建代表性任务组合及加强统计分析,以提升测试透明度与可信度。该研究于11月6日发布,引发广泛关注。
原文链接
本文链接:https://kx.umi6.com/article/27920.html
转载请注明文章出处
相关推荐
换一换
OpenAI 启动先锋计划,旨在重塑 AI 模型评分体系
2025-04-10 08:35:44
对话中国信通院魏凯:AI下半场,大模型要少说话,多做事
2025-07-01 08:51:07
“为了全人类,提交你最难的问题”
2025-09-26 07:19:37
红杉中国推出全新AI基准测试xbench,要在AI下半场定义“好问题”
2025-05-26 17:32:29
红杉中国,刚刚发了一篇Paper
2025-05-26 12:35:56
人类给AI的“最后考试”:DeepSeek-R1、o1都低于10%
2025-02-11 10:47:05
MLCommons 发布 PC AI 基准测试 MLPerf Client 首个公开版本 0.5
2024-12-12 15:59:12
5大领域18个场景 北京出台场景培育开放应用新方案
2026-05-13 18:53:09
阿里巴巴高管:预计未来一年AI相关产品收入占比将突破50%
2026-05-13 19:53:40
腾讯:小程序和AI的整合是未来发展方向
2026-05-13 22:05:28
国泰海通:AI产业链通胀 Agent预计引爆下一轮产业链价格上行
2026-05-15 18:51:47
华泰证券:继续看好AIDC产业链
2026-05-15 08:33:04
“硫磺荒”叠加“AI热”?伦铜冲破14000美元大关
2026-05-13 15:44:48
708 文章
578086 浏览
24小时热文
更多
-
2026-05-15 18:51:47 -
2026-05-15 18:50:40 -
2026-05-15 18:49:23