Hugging Face Blog·· 2023-05-25AI 评分36
Hugging Face 用 NNCF 和 Optimum 为 Intel CPU 优化 Stable Diffusion
Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum
AI 导读
Hugging Face 借助 OpenVINO 的 NNCF 与 Optimum,通过量化感知训练(QAT)结合 Token Merging 优化 Stable Diffusion 的 UNet,在 Intel CPU 上实现 5.1 倍推理加速和 4 倍模型体积缩减。优化从 Pokemons 数据集微调模型出发,仅需 4096 次迭代、单张 24GB 显存 GPU 不到一天即可完成。
来源:Hugging Face Blog · huggingface.co