跳到正文
原文
Hugging Face Blog·· 2023-10-24精选AI 评分62

Hugging Face 实测 SDXL 的简单推理优化技巧

Exploring simple optimizations for SDXL

AI 导读

Hugging Face 在 A100 40GB 上实测了 SDXL 的多项推理优化,未优化管线需 28GB 显存、72.2 秒,改用 fp16 后降至 21.7GB、14.8 秒,叠加 SDPA 后进一步降到 11.4 秒。

推荐理由

原文给出 SDXL 各项优化前后的显存与延迟实测数据,读者可据此选择适合自己硬件的组合方案。

来源:Hugging Face Blog · huggingface.co