Hugging Face Blog·· 2024-06-27精选AI 评分78
Google 发布 Gemma 2 开源大模型，含 9B 与 27B 两个版本
Welcome Gemma 2 - Google’s new open LLM
AI 导读
Google 发布 Gemma 2 系列开源大模型，包含 9B 和 27B 两个尺寸，各有基础版与指令微调版共 4 个开放权重模型，上下文长度 8K token。
推荐理由
文章梳理了 Gemma 2 的滑动窗口注意力、软上限与知识蒸馏等训练改动，并给出与 Llama 3、Qwen 1.5 的基准对比。
来源：Hugging Face Blog · huggingface.co