跳到正文
原文
Hugging Face Blog·· 2023-06-23精选AI 评分62

Open LLM Leaderboard 的 MMLU 分数为何对不上?

What's going on with the Open LLM Leaderboard?

AI 导读

Hugging Face 发文解释 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数为何明显低于 LLaMA 论文中的数字:榜单封装的是 EleutherAI LM Evaluation Harness,而论文用的是 UC Berkeley 的原始实现,两者在提示词、答案比较方式上不同。

推荐理由

同一 MMLU 数据集在三种实现下分数与排名差异明显,读者可据此理解评测数字为何不可直接横向比较。

来源:Hugging Face Blog · huggingface.co