MiniMax M3 如何构建：稀疏注意力与原生多模态训练

MiniMax 研究员 Olive Song 讲解了 M3 的构建方式，将 GQA 感知的稀疏注意力设计与文本、视觉原生预训练结合。她说明了块检索和早期多模态融合为何对长上下文和视觉理解很重要。