标题:大模型法律推理优势难复制!LEXam评测集引领新标准
大模型推理能力备受关注,但在法律等实际应用领域仍有局限。近日,苏黎世联邦理工学院等机构发布全新法律推理基准数据集LEXam,涵盖瑞士、欧洲及国际法,包含4886道题目,覆盖本科至硕士水平的法律考试。该数据集在Hugging Face趋势榜排名第一,下载量超1700次。
LEXam不仅提供标准答案,还详细记录推理路径,包括问题识别、规则回忆及适用等步骤。这种设计帮助评估LLM在复杂推理中的缺陷,而非仅关注最终正确性。团队引入“LLM-as-a-Judge”模式,通过模型评估自身推理步骤质量,结果显示与专家评分高度一致,为自动化评估提供了高效路径。
测试显示,专精推理优化模型表现最佳,Gemini-2.5-Pro以82.2分领先。GPT-4系列虽表现优异,但仍落后于专精模型。此外,模型在英文任务上优于德语,跨学科法律领域表现更优,国际法题目得分高于地区法律。多选题测试表明,模型在选项增多时准确率显著下降,凸显其依赖浅层特征的局限性。
LEXam为法律推理评估提供了透明、可靠的工具,推动相关研究发展。项目主页和论文已公开供参考。
原文链接
本文链接:https://kx.umi6.com/article/19779.html
转载请注明文章出处
相关推荐
换一换
啊啊啊GPT-6 Astra这么不安全!这次马斯克都瘫坐了
2026-09-21 16:56:06
大模型收入暴涨1076%,港股AGI第一股首份年报:一年狂揽12亿,属实把商业化玩明白了
2026-03-27 17:08:13
刚刚,Qwen3.8-27B 开源了!家用显卡也能跑
2026-08-15 00:36:59
AI 智能体正在重新定义 CPU 性能的评估标准
2026-10-13 18:28:41
北京备案大模型达225款 占全国总量约三成
2026-04-22 20:27:12
刚刚,Jev全网解禁!1.2亿Token限时免费用
2026-09-22 09:28:38
天天卖断货的GLM-5.2 用起来到底值不值
2026-06-18 07:16:32
WWW 2026 唯一最佳长文|大模型该信「查到的」还是「记得的」?|GAIR Paper 110
2026-07-27 11:06:04
老黄RTX Spark真机现身Bilibili World!CPU和GPU直接焊在一起,笔记本跑120B大模型
2026-07-12 10:19:23
「说 Harness 会被淘汰的,肯定没做过工程」,Kimi 前 CLI 负责人戳破了 AI 圈最大的误解
2026-08-31 16:51:39
数学大佬在前面拓荒,AI研究员在后面捡宝,菲尔兹奖还能拿来破AI「黑盒」?
2026-07-26 17:28:08
百度推动大模型与搜推业务融合
2026-03-18 15:35:09
笔记本跑7000亿参数GLM!无GPU也行? SSD当显存用火爆GitHub
2026-09-26 17:16:43
712 文章
908839 浏览
24小时热文
更多
-
2026-10-22 11:40:49 -
2026-10-22 10:39:20 -
2026-10-22 10:37:52