跳到正文
原文
Hugging Face Blog·· 2020-07-03AI 评分52

Reformer 如何用不到 8GB 内存训练 50 万 token 序列

The Reformer - Pushing the limits of language modeling

AI 导读

Hugging Face 博客详解 Reformer 如何用不到 8GB 内存训练长度达 50 万 token 的序列,而 bert-base-uncased 的输入长度上限只有 512 token。

来源:Hugging Face Blog · huggingface.co