Google Research·· 2026-06-27精选AI 评分62
Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型
Accelerating Gemini Nano models on Pixel with frozen Multi-Token Prediction
AI 导读
Google Research 提出一种新架构,把多 Token 预测(MTP)头接到已冻结的 Gemini Nano v3 模型上,在 Pixel 9 和 10 系列上实现开箱即用的加速。
推荐理由
Google 把 MTP 头接到冻结的 Gemini Nano v3 上,读者可了解端侧推测解码如何在内存受限下提速。
来源:Google Research · research.google