Hugging Face Blog·· 2026-06-25精选AI 评分60
NVIDIA NeMo AutoModel 发布：MoE 微调吞吐提升 3.4-3.7 倍
Accelerating Transformers Fine-Tuning with NVIDIA NeMo AutoModel
AI 导读
NVIDIA 在 Hugging Face 博客发布开源库 NeMo AutoModel，基于 Transformers v5 构建，为 MoE 模型微调加入 Expert Parallelism、DeepEP 融合 all-to-all 调度和 TransformerEngine 内核。
推荐理由
原文给出 NeMo AutoModel 在 MoE 微调上的吞吐与显存对比，读者可据此判断是否值得替换现有训练栈。
来源：Hugging Face Blog · huggingface.co