如果试题太简单，学霸和学渣都能考90分，拉不开差距……

随着Claude 3、Llama 3甚至之后GPT-5等更强模型发布，业界急需一款更难、更有区分度的基准测试。

大模型竞技场背后组织LMSYS推出下一代基准测试Arena-Hard，引起广泛关注。

Llama 3的两个指令微调版本实力到底如何，也有了最新参考。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

与之前大家分数都相近的MT Bench相比，Arena-Hard区分度从22.6%提升到87.4%，孰强孰弱一目了然。

Arena-Hard利用竞技场实时人类数据构建，与人类偏好一致率也高达89.1%。

除了上面两个指标都达到SOTA之外，还有一个额外的好处：

实时更新的测试数据包含人类新想出的、AI在训练阶段从未见过的提示词，减轻潜在的数据泄露。

发布新模型后，无需再等待一周左右时间让人类用户参与投票，只需花费25美元快速运行测试管线，即可获得结果。

有网友评价，使用真实用户提示词而不是高中考试来测试，真的很重要。

新基准测试如何运作？

简单来说，通过大模型竞技场20万个用户查询中，挑选500个高质量提示词作为测试集。

首先，挑选过程中确保多样性，也就是测试集应涵盖广泛的现实世界话题。

为了确保这一点，团队采用BERTopic中主题建模管道，首先使用OpenAI的嵌入模型（text-embedding-3-small）转换每个提示，使用 UMAP 降低维度，并使用基于层次结构的模型聚类算法 (HDBSCAN) 来识别聚类，最后使用GPT-4-turbo进行汇总。

同时确保入选的提示词具有高质量，有七个关键指标来衡量：

• 具体性：提示词是否要求特定的输出？
• 领域知识：提示词是否涵盖一个或多个特定领域？
• 复杂性：提示词是否有多层推理、组成部分或变量？
• 解决问题：提示词是否直接让AI展示主动解决问题的能力？
• 创造力：提示词是否涉及解决问题的一定程度的创造力？
• 技术准确性：提示词是否要求响应具有技术准确性？
• 实际应用：提示词是否与实际应用相关？

使用GPT-3.5-Turbo和GPT-4-Turbo对每个提示进行从 0 到 7 的注释，判断满足多少个条件。然后根据提示的平均得分给每个聚类评分。

高质量的问题通常与有挑战性的话题或任务相关，比如游戏开发或数学证明。

新基准测试准吗？

Arena-Hard目前还有一个弱点：使用GPT-4做裁判更偏好自己的输出。官方也给出了相应提示。

可以看出，最新两个版本的GPT-4分数高过Claude 3 Opus一大截，但在人类投票分数中差距并没有那么明显。

其实关于这一点，最近已经有研究论证，前沿模型都会偏好自己的输出。

研究团队还发现，AI天生就可以判断出一段文字是不是自己写的，经过微调后自我识别的能力还能增强，并且自我识别能力与自我偏好线性相关。

易标AI

告别低效手工，迎接AI标书新时代！3分钟智能生成，行业唯一具备查重功能，自动避雷废标项

135 查看详情

那么使用Claude 3来打分会使结果产生什么变化？LMSYS也做了相关实验。

首先，Claude系列的分数确实会提高。

但令人惊讶的是，它更喜欢几种开放模型如Mixtral和零一万物Yi，甚至对GPT-3.5的评分都有明显提高。

总体而言，使用Claude 3打分的区分度和与人类结果的一致性都不如GPT-4。

所以也有很多网友建议，使用多个大模型来综合打分。

除此之外，团队还做了更多消融实验来验证新基准测试的有效性。

比如在提示词中加入“让答案尽可能详尽”，平均输出长度更高，分数确实会提高。

但把提示词换成“喜欢闲聊”，平均输出长度也有提高，但分数提升就不明显。

此外在实验过程中还有很多有意思的发现。

比如GPT-4来打分非常严格，如果回答中有错误会狠狠扣分；而Claude 3即使识别出小错误也会宽大处理。

对于代码问题，Claude 3倾向于提供简单结构、不依赖外部代码库，能帮助人类学习编程的答案；而GPT-4-Turbo更倾向最实用的答案，不管其教育价值如何。

另外即使设置温度为0，GPT-4-Turbo也可能产生略有不同的判断。

从层次结构可视化的前64个聚类中也可以看出，大模型竞技场用户的提问质量和多样性确实是高。

这里面也许就有你的贡献。

Arena-Hard GitHub：https://github.com/lm-sys/arena-hard
Arena-Hard HuggingFace：https://huggingface.co/spaces/lmsys/arena-hard-browser
大模型竞技场：https://arena.lmsys.org

参考链接：

[1]https://x.com/lmsysorg/status/1782179997622649330
[2]https://lmsys.org/blog/2025-04-19-arena-hard/

以上就是新测试基准发布，最强开源Llama 3尴尬了的详细内容，更多请关注其它相关文章！

# 也有  # 惠州网站建设后怎么推广  # 周口建设大道招聘网站  # 黄埔幼儿园网站建设  # 惠州营销型网站建设方案  # 天津大寺网站建设  # 寿光营销推广效果如何啊  # 洛阳爱采购seo  # 沈阳综合网站建设资费  # 如何提高郑州网站建设  # 竞价关键词排名优化方案  # 还有一个  # 将在  # 多个  # gpt-5  # 万元  # 高质量  # 自己的  # 多项  # 解决问题  # 开源  # opus  # llama  # claude  # git  # llama 3  # 大模型 

相关栏目： 【 行业资讯67740 】 【 技术百科0 】 【 网络运营39195 】

相关推荐： 树莓派命令行如何新建文件  统计学中power值是什么意思  j*a怎么用数组缓存  sqlite中datediff函数怎么用 SQLite中DATEDIFF()函数的用法分享  数组和J*A怎么打  夸克搜题的原理是什么  如何修改cad中的命令  如何用命令行连接本地数据库  npm如何声明命令  j*a数组怎么取元素  typescript和es6先学哪个  typescript怎么拼接  电瓶车屏幕上显示power是什么意思  固态硬盘如何接主机  为什么进行域名解析  爱玛电动车power模式是什么意思  intel固态硬盘如何安装  power在录音笔上是什么意思  ssd固态硬盘如何安装  solidworks打开igs文件看不见要怎么办解决方法  建伍遥控器power是什么意思  春运抢票何时开始抢票的  苹果16送哪些配件  如何将系统移到固态硬盘  光刻机是干什么用的  typescript多久能学会  怎么在爱奇艺中投屏到电视最新方法  苹果16系统多了哪些  电动车eco和power是什么意思  苹果16promax有哪些颜色  春运抢票准备什么东西  电脑type-c接口是什么意思  苹果16日发售哪些机型  手机换电池要多少钱  typescript干什么的  恋爱软件免费聊天不收费的有哪些  市盈率市净率是什么意思  如何显示固态硬盘  mac如何使用vi命令  8800日元等于多少人民币  摩托车上power是什么意思  春运返程如何抢票成功  手机的nfc是什么功能是什么意思  12306退票手续费最新规定  破太岁是什么意思  哪些编程软件需要typescript  品道音响上的power键是什么意思  mysql的datediff函数怎么用  面包车收音机power是什么意思  怎么确定手机是5g