跳到正文

#评测/基准

今日 1 条
1月27日周二
1月21日周三
12月17日周三
12月16日周二
12月9日周二
12月4日周四
11月21日周五
  1. Hugging Face Blog34

    Hugging Face Open ASR Leaderboard 新增多语言与长音频赛道,并发布 60+ 模型趋势预印本

    Hugging Face 的 Open ASR Leaderboard 新增多语言与长音频转录赛道,并发布覆盖 60+ 模型、18 家机构、11 个数据集的 ASR 趋势预印本。Conformer 编码器加 LLM 解码器在英语转录准确率上领先,CTC/TDT 解码器吞吐量快 10–100 倍;多语言仍以 Whisper Large v3 为强基线,长音频则闭源系统暂时领先。

11月19日周三
11月4日周二
10月7日周二
10月1日周三
9月25日周四
9月22日周一
8月12日周二
8月5日周二
8月1日周五
7月23日周三
7月17日周四
7月4日周五
5月28日周三
5月12日周一
4月16日周三
4月10日周四
4月9日周三
4月8日周二
4月2日周三
2月18日周二
2月14日周五
  1. Hugging Face Blog60

    Hugging Face 用 Math-Verify 重评 Open LLM Leaderboard 全部 3,751 个模型

    Hugging Face 用 Math-Verify 替换旧评测器,重新评估了 Open LLM Leaderboard 上提交过的全部 3,751 个模型。旧评测器因答案格式、SymPy 解析和答案比对问题误判正确答案,替换后模型平均多解出 61 道题,MATH 子集平均提升 4.66 分,Algebra 与 Prealgebra 分别提升 8.27 和 6.93 分。

    推荐理由:原文给出评测器替换前后的具体差异与榜单变化,读者可据此判断数学评测口径对模型排名的影响。

2月10日周一
2月4日周二
1月9日周四
12月20日周五
12月5日周四
12月4日周三
11月20日周三
  1. Hugging Face Blog40

    BAAI 推出 FlagEval Debate:首个多语言 LLM 辩论竞赛平台

    BAAI 推出 FlagEval Debate 平台,让大模型以辩论方式互相对抗,目前支持英语、中文、阿拉伯语和韩语四种语言的辩论竞赛。该平台采用专家评审与用户投票的双重评估机制,并允许开发者自定义模型参数与对话风格,以解决静态评测和 Chatbot Arena 等平台缺乏区分度、模型孤立生成及投票偏差等问题。2024 年 Q3 的实验显示,当前大多数模型都能参与辩论。

11月19日周二
10月30日周三
10月28日周一