牛津大学互联网研究所联合30多位研究人员发布研究称,当前用于评估AI模型性能的基准测试普遍存在夸大问题,缺乏科学严谨性。研究分析了445项主流基准测试,发现约一半未能明确定义测量目标,且常重复使用数据和方法,统计比较也不够可靠。高级研究员亚当・马赫迪指出,这些测试可能误导公众对AI能力的认知,例如通过GSM8K测试评估数学推理能力时,答对问题未必代表真正具备推理能力。研究呼吁改进基准测试,提出八项建议,包括明确评估范围、构建代表性任务组合及加强统计分析,以提升测试透明度与可信度。该研究于11月6日发布,引发广泛关注。
原文链接
本文链接:https://kx.umi6.com/article/27920.html
转载请注明文章出处
相关推荐
换一换
对话中国信通院魏凯:AI下半场,大模型要少说话,多做事
2025-07-01 08:51:07
OpenAI 启动先锋计划,旨在重塑 AI 模型评分体系
2025-04-10 08:35:44
牛津大学研究:当前基准测试普遍夸大了 AI 模型的性能
2025-11-06 19:10:49
人类给AI的“最后考试”:DeepSeek-R1、o1都低于10%
2025-02-11 10:47:05
“为了全人类,提交你最难的问题”
2025-09-26 07:19:37
红杉中国,刚刚发了一篇Paper
2025-05-26 12:35:56
红杉中国推出全新AI基准测试xbench,要在AI下半场定义“好问题”
2025-05-26 17:32:29
MLCommons 发布 PC AI 基准测试 MLPerf Client 首个公开版本 0.5
2024-12-12 15:59:12
郑栅洁:从未来发展考虑 将推进人工智能超大规模智算集群、卫星互联网、可控核聚变等一系列重大工程和项目
2026-03-06 17:23:58
抖音电商打击AI虚假营销:处置仿冒李亚鹏、王丽云等名人侵权内容超16万条
2026-03-09 19:06:14
AI浏览器何时才能安全?
2026-03-07 00:49:29
AI短剧《霍去病》走红!导演澄清制作细节:3000元仅算力成本
2026-03-08 17:25:18
黄仁勋:AI智能体将彻底改造软件 笨软件即将消失
2026-03-08 14:08:18
667 文章
467617 浏览
24小时热文
更多
-
2026-03-09 21:13:27 -
2026-03-09 20:09:26 -
2026-03-09 20:09:18