Hugging Face Blog·· 2024-10-24精选AI 评分62
Cohere For AI 发布 Aya Expanse 8B 与 32B 多语言模型
A Deepdive into Aya Expanse: Advancing the Frontier of Multilinguality
AI 导读
Cohere For AI 发布 Aya Expanse 系列多语言模型,包含 8B 和 32B 两个参数版本,并以开放权重形式提供给研究社区。在成对比较中,Aya Expanse 32B 优于 Gemma 2 27B、Mistral 8x22B 和参数量超过其两倍的 Llama 3.1 70B;Aya Expanse 8B 在同参数级别中胜率为 60.4% 至 70.6%。
推荐理由
Cohere For AI 公开了 Aya Expanse 的完整后训练流程,读者可了解多语言模型如何用数据套利、偏好训练与模型合并提升表现。
来源:Hugging Face Blog · huggingface.co