跳到正文
原文
Hugging Face Blog·· 2021-09-14精选AI 评分60

Hugging Face 发布 Optimum:面向大规模 Transformer 的优化工具库

Introducing Optimum: The Optimization Toolkit for Transformers at Scale

AI 导读

Hugging Face 发布开源库 Optimum,目标是简化 Transformer 模型在特定硬件上的训练与推理优化,首个合作方为 Intel。Optimum 与 Intel Neural Compressor 配合,可对 BERT 等模型做训练后量化、量化感知训练和动态量化,用于 Intel Xeon CPU 部署。

推荐理由

Hugging Face 官方发布 Optimum 开源库,读者可了解其与 Intel Neural Compressor 配合量化 Transformer 的路径。

来源:Hugging Face Blog · huggingface.co