跳到正文
原文
Hugging Face Blog·· 2022-08-02AI 评分22

Nyströmformer:用 Nyström 方法以线性时间与内存近似自注意力

Nyströmformer: Approximating self-attention in linear time and memory via the Nyström method

AI 导读

Hugging Face 博客介绍了 Nyströmformer,一种用 Nyström 方法将标准自注意力 O(n²) 复杂度近似为 O(n) 的高效 Transformer 模型。

来源:Hugging Face Blog · huggingface.co