Hugging Face Blog·· 2022-08-02AI 评分22
Nyströmformer:用 Nyström 方法以线性时间与内存近似自注意力
Nyströmformer: Approximating self-attention in linear time and memory via the Nyström method
AI 导读
Hugging Face 博客介绍了 Nyströmformer,一种用 Nyström 方法将标准自注意力 O(n²) 复杂度近似为 O(n) 的高效 Transformer 模型。
来源:Hugging Face Blog · huggingface.co