Hugging Face Blog·· 2023-06-23精选AI 评分62
Open LLM Leaderboard 的 MMLU 分数为何对不上?
What's going on with the Open LLM Leaderboard?
AI 导读
Hugging Face 发文解释 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数为何明显低于 LLaMA 论文中的数字:榜单封装的是 EleutherAI LM Evaluation Harness,而论文用的是 UC Berkeley 的原始实现,两者在提示词、答案比较方式上不同。
推荐理由
同一 MMLU 数据集在三种实现下分数与排名差异明显,读者可据此理解评测数字为何不可直接横向比较。
来源:Hugging Face Blog · huggingface.co