IBM 联合普林斯顿等发布 Bamba-9B 混合 Mamba2 模型

IBM 联合普林斯顿、CMU 和 UIUC 发布 Bamba-9B，一个基于完全开放数据训练的混合 Mamba2 模型，训练数据量 2.2T tokens。在 vLLM 中，该模型相比标准 Transformer 实现 2.5 倍吞吐提升和 2 倍延迟加速，并已支持 transformers、vLLM、TRL 和 llama.cpp。