Hugging Face 月度阅读：2021 年 2 月——长程 Transformer

Hugging Face 的月度阅读小组 2021 年 2 月聚焦长程注意力，围绕 Longformer、Compressive Transformer、Linformer、Performer 四篇论文梳理了降低 Transformer 序列长度二次开销的四条路线：自定义注意力模式、循环、低秩近似与核近似。