Hugging Face Blog·· 2021-11-04AI 评分22
在现代 CPU 上扩展类 BERT 模型推理(第二部分):Intel 软件优化与 Ice Lake 性能实测
Scaling up BERT-like model Inference on modern CPU - Part 2
AI 导读
Hugging Face 博客第二部分聚焦用 Intel 软件栈优化 CPU 上的类 BERT 模型推理,实测新一代 Ice Lake Xeon 在多种 NLP 任务上推理速度较上代 Cascade Lake 最高提升 75%。
来源:Hugging Face Blog · huggingface.co