跳到正文
原文
Hugging Face Blog·· 2023-05-25AI 评分36

Hugging Face 用 NNCF 和 Optimum 为 Intel CPU 优化 Stable Diffusion

Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum

AI 导读

Hugging Face 借助 OpenVINO 的 NNCF 与 Optimum,通过量化感知训练(QAT)结合 Token Merging 优化 Stable Diffusion 的 UNet,在 Intel CPU 上实现 5.1 倍推理加速和 4 倍模型体积缩减。优化从 Pokemons 数据集微调模型出发,仅需 4096 次迭代、单张 24GB 显存 GPU 不到一天即可完成。

来源:Hugging Face Blog · huggingface.co