Hugging Face 发布 mmBERT：ModernBERT 走向多语言

Hugging Face 发布 mmBERT，一个基于 ModernBERT 架构的多语言编码器模型，在 1800 多种语言、超 3T token 上训练，成为首个在性能上超越 XLM-R 的多语言模型。base 版含 110M 非嵌入参数（总计 307M），采用三阶段训练与逆掩码率调度（30%→15%→5%），在 GLUE 和 XTREME 基准上均取得显著提升。