Hugging Face Blog·· 2023-03-28AI 评分38
在 Intel CPU 上加速 Stable Diffusion 推理
Accelerating Stable Diffusion Inference on Intel CPUs
AI 导读
Hugging Face 展示了在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理的多种技术,借助 Optimum Intel 与 OpenVINO 将单图生成延迟从 32.3 秒降至 16.7 秒,固定 512x512 分辨率后进一步降至 4.7 秒。相比上一代 Ice Lake Xeon 的原生推理,整体提速近 10 倍。
来源:Hugging Face Blog · huggingface.co