猫眼电影
猫眼电影记者 戴子旭 报道y85ouztigy6ysf5y
克雷西 西风 发自 凹非寺量子位 | 公众号 QbitAI
Llama 4真要被锤爆了,这次是大模型竞技场(Chatbot Arena)官方亲自下场开怼:
竞技场上,Meta提供给他们的是特供版!
以下是竞技场背后lmarena.ai团队的原话:
我们注意到社区对Llama-4最新版本在Arena平台的发布存在疑问。为确保完全透明,现公开2000余组模型对战数据供公众审阅,包含用户提示词、模型回复及用户偏好数据(链接详见下一条推文)。
初步分析表明,模型回复风格与语气是重要影响因素(详见风格控制排名),我们正在进行更深入的分析!(比如表情符号控制?)
此外,我们即将在Arena平台上线Llama-4-Maverick的HuggingFace版本,排行榜结果将稍后公布。
Meta对我们平台政策的理解与我们对模型提供商的期待存在偏差——Meta本应明确标注"Llama-4-Maverick-03-26-Experimental"是经过人类偏好优化的定制模型。
为此,我们正在更新排行榜政策,以强化对公平性、可复现性评估的承诺,避免未来再出现此类混淆。
总结一下就是:
公开对战数据,正分析排名受影响因素
谴责Meta未明确标注模型版本导致评测混淆
后续:上线Llama-4-Maverick的HuggingFace版、更新排行榜政策
官方下场表态后,Llama 4和Meta的路人缘进一步下降。
2000+轮对战记录完整公开
来看看lmarena.ai公开的模型对战记录详情。
首先来看网友实测时对Llama 4抱怨较大的代码生成任务。
竞技场中Llama-4-Maverick-03-26-Experimental版本生成代码的表现的确是OK的。
prompt:
create me fun web based game that i can just run the code and works(帮我创建一个有趣的网页游戏,我只需运行代码就能玩)
Llama-4-Maverick-03-26-Experimental对战加拿大AI初创公司Cohere的command-a-03-2025。
上文lmarena.ai调查表示“模型回复风格与语气是重要影响因素”,从对战数据中的确可以看出Llama-4-Maverick-03-26-Experimental的回复中会增加如"A very nice and very direct request!" "That’s it! ""Happy gaming!"等展示友好的语句以及表情包。
运行两个模型生成的代码。
command-a-03-2025生成的小游戏是移动鼠标控制绿色篮子接住橙色小球,看效果显然有bug,小球直接穿过篮子,分数也没有变动:
Llama-4-Maverick-03-26-Experimental生成的小游戏玩法是移动鼠标控制红色方块,点击四处移动的蓝色圆点+10分,点击黑色炸弹-10分,每局游戏30秒。
可以正常运行,计分也比较准确:
这局command-a-03-2025输的不冤。
另外,之所以展示Llama-4-Maverick-03-26-Experimental和command-a-03-2025的对比,是因为有网友发现Llama 4声称的关键创新“interleaved no-RoPE attention”和command-a的如出一辙:
再看一个起标题的任务,prompt:
I will give a congress talk “On Naevi” — naevi are benign melanocytic lesions which are markers and every so often also precursors of melanoma. Do you have suggestions for a short and succinct title for my presentation(我将在一个学术会议上作关于“痣”的演讲——痣是黑素细胞良性病变,可作为黑色素瘤的标志物,有时甚至是其前驱病变。您能否为我的演讲推荐一个简洁有力的标题?)
Llama-4-Maverick-03-26-Experimental对战的是claude-3-5-sonnet-20241022。
对比来看,claude-3-5-sonnet-20241022的回复言简意赅,直接给出5个标题:
Llama-4-Maverick-03-26-Experimental的回复更为详细。
不仅会提供情绪价值,如A very timely and relevant topic! Congrats on getting the slot at congress, by the way!(选题非常应景且切合实际!恭喜拿下大会报告机会),而且从不同角度分别提供了几个标题:
这还没完,Llama-4-Maverick-03-26-Experimental还会贴心地指出选择标题时需要考虑的因素以及它自己选择的top 3标题。
最后再来随机看一道中文题目:
prompt:
解析一下这部微小说 题目 自驾游 当年我自驾游 不小心压死了一头羊 羊的主人好热情 宰了羊给我们吃 还送我们到火车站 在回来的路上 看着火车外的风景 真的好感人
对战o3-mini,Llama-4-Maverick-03-26-Experimental再次展现出超长输出的特点,故事分析完了还拆解了作者为啥要这样设计,作者本人可能都没想这么多(doge):
对战数据看下来,Llama-4-Maverick-03-26-Experimental的排名会这么高,也不奇怪。
此前网友质疑Llama-4-Maverick-03-26-Experimental刷票的可能性降低。
Llama 4深陷“造假”丑闻
如开头所述,Llama 4被lmarena.ai站出来抨击的原因,是因为测试排名和实际表现不符。
在大模型竞技场中,Llama 4得分1417,不仅大大超越了此前Meta自家的Llama-3-405B(提升了149分),还成为史上第4个突破1400分的模型。
而且跑分超越了DeepSeek-V3,直接成为榜单上排名第一的开源模型。
但没过多久,人们就发现Llama 4的实际表现相当拉胯,一时间差评如潮,甚至还被做成了表情包。
比如经典“氛围编程”小球反弹测试,小球直接穿过墙壁掉了下去。
其它跑分方面,到了各种第三方基准测试中,情况也大多直接逆转,排名掉到了末尾。
并且从Meta GenAI负责人Ahmad Al-Dahle的推文当中也能看懂,竞技场中的Llama 4,确实是一个特殊版本。
而在最新的推文中,Ahmad表示Llama 4绝对没有使用测试集进行训练,表现存在差异的原因是还需要稳定的部署。
对于这一解释,有人并不买账,直言这种现象在其他模型当中从未见过。
Meta的支持者则表示,希望表现不佳真的是供应商的问题所致。
大模型竞技场,还能信吗?
被卷入这次旋涡的不仅是Llama 4和背后的Meta,涉及到的大模型竞技场也引起了人们的广泛讨论。
毕竟Llama 4的“造假”风波就是发生在竞技场上,所以也自然有人质疑起了榜单的权威性。
有人指出,竞技场的偏差不只体现在Llama 4被高估上,还有Claude 3.7的表现被低估了。
当然,官方快速回应并公开了测试中的细节,这个做法获得了网友的肯定,说明至少在态度和透明度上是说得过去的。
但也有人认为,无论官方态度端不端正,Llama 4事件说明这种“人类评价AI”的方法,本身已经不适用了。
人们日常生活中的问题,几乎所有领先模型都能完美解答,谁还会去认真投票,这个基准已经过时了。
有人补充说,“人类偏好”不是评价高级大模型能力的可靠标准,产生较大偏差是正常的。
还有人表示,从官方发布的消息来看,lmarena.ai自己都不清楚自己的基准。
这名网友解释,特调版Llama 4获得用户投票的原因并非lmarena.ai所说的“表情符号”,而是因为更具亲和力。
当然也有人提了些建设性的意见,比如更改ELO评分的算法,或者启用强制风格转换。
但总之,无论是迭代改进还是另辟蹊径,都是时候更新对大模型的评价方式了。
参考链接:[1]https://x.com/lmarena_ai/status/1909397817434816562[2]https://x.com/Ahmad_Al_Dahle/status/1909302532306092107[3]https://huggingface.co/spaces/lmarena-ai/Llama-4-Maverick-03-26-Experimental_battles
??时事1:gl手指进去了~女同黄网站
??04月12日,台舆论关注大陆高校师生访台行:掀“马龙旋风”,彼此善意交融,
尊敬的各位领导、凯杰小学幼儿园的老师和员工们、家长朋友们、亲爱的小朋友们:
,女初高中打屁股网站图片。??04月12日,5月3日全社会跨区域人员流动量完成26965.2万人次,
“呵呵……”狈村的族长狈里青笑了,道:“看来你真是一个好孩子,心性善良,放不下这头凶禽啊。”
,亲妺妺的玉足伸进我内裤里的小说,大胸少萝100%裸体无遮掩,体育生自慰出精🔞🈲网。??时事2:男生偷偷关注的公众号有哪些
??04月12日,重庆潼南:万亩彩色油菜花迎盛花期 吸引游客踏春游玩,
从高空向下望去,可以见到地面上黑色的缝隙一道接着一道,像是蛛网般交织,有一块区域更是出现黑渊。
,别摸了⋯啊⋯嗯上课呢h动图,范冰冰被无套内谢爆c,妺妺洗澡让我进去c了她微博文。??04月12日,“宝总”终于来了!下一个会是谁?,
亲爱的同学们!又是一个新学期的开始,一个春天的开始,更是南校区迎来的第一个春天!万物舒展,生机盎然!
,女人正面裸体洗澡视频,大连黄婷外网,含着jing液去上课H男男。??时事3:冰公主裸体被❌叫爽动漫
??04月12日,法润彩云南丨在群众中间,就是服务群众的最佳点位!,
黑色的大河旁,一行人驻足,看着被太古遗种毁掉的山峰,他们一阵出神,在老妪的手里,还有一小块蛋壳,那是被毛球啃破,丢在路上的碎片。
,蜜桃甜心漫画免费阅读,打美女白嫩㊙️屁股,解开了她的乳峰摸了上去视频。??04月12日,河南:三门峡水库实时调整下泄流量确保安全度汛,
“鬼爷……你大爷!”小不点愤懑。
?第一百四十五章 古剑,日本蓝莓❌❌奶头❌❌人妻,中国❌❌❌❌学生XXXX12,女裸片❌❌❌❌❌。??时事4:www.海角社区.com
??04月12日,蒙古族长调传承人:守住民歌的根与魂,
人活着就要有希望,我们成长在这块土地上,也要有希望。美国作家欧亨利在他的小说《最后一片叶子》里讲了个故事:病房里,一个生命垂危的病人从房间里看见窗外的一棵树,在秋风中一片片地掉落下来。病人望着眼前的萧萧落叶,身体也随之每况愈下,一天不如一天。她说:“当树叶全部掉光时,我也就要死了。”一位老画家得知后,用彩笔画了一片叶脉青翠的树叶挂在树枝上。 最后一片叶子始终没掉下来。只因为生命中的这片绿,病人竟奇迹般地活了下来。 你看看,人生可以没有很多东西,却唯独不能没有希望。希望是人类生活的一项重要的价值。有希望之处,生命就生生不息!
,yaoi男男❤♂R18动漫网站,火影18+黄化板,jmcomic。??04月12日,黑龙江省侨办贺新春:诚挚邀请龙的传人龙年到龙江,
两千年前的荀子说:“一曰防,二曰救,三曰戒,防为上,救次之,戒为下”。原来读这段话并没有多想,现在我明白了,对付事故保障安全,可以借助古老的中国智慧,因为,荀子说了三种办法,第一种办法是在事情没有发生之前就预设警戒,防患于未然,这叫预防;第二种办法是在事情或者征兆刚出现就及时采取措施加以制止,防微杜渐,防止事态扩大,这叫补救;第三种办法是在事情发生后再行责罚教育,这叫惩戒。荀子列出了三种方法后认为,预防为上策,补救属中策,惩戒是下策。
,雪女被狂c躁到高潮失禁小说,男男做爰猛烈叫床XXXⅩ图片,大胸美女洗澡㊙️免费看。责编:江夏王
审核:于沛
责编:楚萨迪