跳到正文
原文
Hugging Face Blog·· 2025-01-31精选AI 评分60

Mini-R1:用 GRPO 和 Countdown Game 复现 DeepSeek R1 的 aha moment

Mini-R1: Reproduce Deepseek R1 „aha moment“ a RL tutorial

AI 导读

作者用 GRPO 和 Countdown Game 训练 Qwen2.5-3B-Instruct,在 4x H100 上复现 DeepSeek R1 的 aha moment,450 步后解题成功率约 50%。

推荐理由

完整复现流程与训练观察,读者可据此理解 GRPO 如何让模型自发形成推理格式。

来源:Hugging Face Blog · huggingface.co