Ulysses 序列并行：如何用百万 token 上下文训练模型

Hugging Face 发布教程，介绍 Snowflake AI Research 的 Ulysses 序列并行（ALST 协议的一部分）如何通过注意力头切分把长序列训练分散到多张 GPU，并已集成到 Accelerate、Transformers Trainer 和 TRL 的 SFTTrainer。