Hugging Face Blog·· 2025-04-26精选AI 评分62
ServiceNow 开源 PipelineRL:用飞行中权重更新提升 LLM 强化学习训练效率
PipelineRL
AI 导读
ServiceNow 开源实验性 RL 实现 PipelineRL,核心创新是在 RL 训练中进行飞行中权重更新,让推理服务器在不停止推理的情况下接收新权重,从而同时保持高推理吞吐和接近 on-policy 的数据采集。
推荐理由
ServiceNow 开源 PipelineRL,用飞行中权重更新化解推理吞吐与 on-policy 数据采集的取舍,并给出 7B/32B 训练对比结果。
来源:Hugging Face Blog · huggingface.co