Hugging Face Blog·· 2021-09-14精选AI 评分60
Hugging Face 发布 Optimum:面向大规模 Transformer 的优化工具库
Introducing Optimum: The Optimization Toolkit for Transformers at Scale
AI 导读
Hugging Face 发布开源库 Optimum,目标是简化 Transformer 模型在特定硬件上的训练与推理优化,首个合作方为 Intel。Optimum 与 Intel Neural Compressor 配合,可对 BERT 等模型做训练后量化、量化感知训练和动态量化,用于 Intel Xeon CPU 部署。
推荐理由
Hugging Face 官方发布 Optimum 开源库,读者可了解其与 Intel Neural Compressor 配合量化 Transformer 的路径。
来源:Hugging Face Blog · huggingface.co