Hugging Face Blog·· 2022-08-02AI 评分22
Nyströmformer:用 Nyström 方法以线性时间与内存近似自注意力
Nyströmformer: Approximating self-attention in linear time and memory via the Nyström method
AI 导读
Hugging Face 博客介绍 Nyströmformer,一种用 Nyström 方法近似标准自注意力的高效 Transformer,将时间和内存复杂度从 O(n²) 降至 O(n)。
来源:Hugging Face Blog · huggingface.co