深入理解 BigBird 的块稀疏注意力机制

Hugging Face 发文详解 BigBird 的块稀疏注意力机制，该模型已集成进 🤗Transformers。BigBird 用块稀疏注意力近似 BERT 的全局注意力，可处理长达 4096 的序列，计算成本远低于 BERT，并在长文档摘要、长上下文问答等任务上取得 SOTA。其注意力由滑动注意力、全局 token 和随机 token 三部分组成。