跳到正文
原文
Hugging Face Blog·· 2024-07-11精选AI 评分60

NuminaMath 如何赢得首届 AIMO 进步奖

How NuminaMath Won the 1st AIMO Progress Prize

AI 导读

Numina 与 Hugging Face 合作的 NuminaMath 7B TIR 赢得首届 AIMO 进步奖,在私有测试集 50 题中解出 29 题。方案基于 DeepSeekMath-Base 7B 两阶段微调,先用数十万条 CoT 数据训练,再用约 6 万条工具集成推理数据训练,推理时采用 SC-TIR 解码,生成 N=48 个候选、深度 M=4 并做多数投票。

推荐理由

获胜方案完整公开了数据构建、两阶段微调与 SC-TIR 解码细节,可迁移到其他推理任务。

来源:Hugging Face Blog · huggingface.co