在 GCP 第 5 代 Xeon 上基准测试语言模型性能

Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4（第 5 代 Xeon，Emerald Rapids，支持 AMX）与 N2（第 3 代 Xeon，Ice Lake）实例上对比了文本嵌入与文本生成两项智能体负载。