Hugging Face Blog·· 2020-07-03AI 评分52
Reformer 如何用不到 8GB 内存训练 50 万 token 序列
The Reformer - Pushing the limits of language modeling
AI 导读
Hugging Face 博客详解 Reformer 如何用不到 8GB 内存训练长度达 50 万 token 的序列,而 bert-base-uncased 的输入长度上限只有 512 token。
来源:Hugging Face Blog · huggingface.co