Hugging Face Diffusers 用 JAX / Flax 在 TPU 上运行 Stable Diffusion
Hugging Face Diffusers 自 0.5.1 版本起支持 Flax，可在 Colab、Kaggle 或 Google Cloud 的 TPU 上运行 Stable Diffusion 推理。
推荐理由：官方教程给出在 TPU 上并行跑 Stable Diffusion 的完整代码路径，可迁移到自己的推理部署。
教程实践
全部主题拿来就能用的实操内容：提示词技巧、工作流搭建、工具用法与踩坑经验。
最新精选
第 61–69 条 · 共 69 条Hugging Face Blog精选AI 评分6262
Hugging Face Blog精选AI 评分6262 Hugging Face Accelerate 如何借助 PyTorch 运行超大模型
Hugging Face 介绍 Accelerate 如何借助 PyTorch 特性在内存不足的消费级硬件上加载并推理超大模型，示例可在免费 Colab 实例上运行 OPT-6.7B。
推荐理由：以 OPT-6.7B 到 BLOOM 为例，讲清 Accelerate 如何用 meta device、device map 和分片加载把超大模型跑在普通硬件上。
Hugging Face Blog精选AI 评分6262 用 DeepSpeed 和 Accelerate 实现极快的 BLOOM 推理
Hugging Face 发布教程，介绍如何用 DeepSpeed-Inference、Accelerate 和 DeepSpeed ZeRO 为 176B 参数的 BLOOM 模型做快速推理。
推荐理由：文章给出 BLOOM 176B 在多种并行与量化方案下的实测吞吐与显存占用，可据此选择部署路径。
Hugging Face Blog精选AI 评分7070 用 Diffusers 运行 Stable Diffusion：用法与原理拆解
Hugging Face 发布教程，介绍如何用 Diffusers 库运行 Stable Diffusion，并解释其潜空间扩散模型的工作原理。
推荐理由：Hugging Face 官方给出 Stable Diffusion 在 Diffusers 中的完整用法与原理拆解，可据此理解潜空间扩散的组件分工。
Hugging Face Blog精选AI 评分6262 Hugging Face 用 transformers、accelerate 和 bitsandbytes 实现 8-bit 矩阵乘法入门
Hugging Face 与 BigScience 将 LLM.int8() 8-bit 量化集成进 transformers 和 accelerate，使 BLOOM-176B 等大模型可在更少 GPU 上运行且性能不降。
推荐理由：Hugging Face 与 BigScience 作者复盘 LLM.int8() 接入 transformers 的工程细节，可看到大模型量化落地的真实难点。
Hugging Face Blog精选AI 评分6262 图解扩散模型：用 PyTorch 逐步实现 DDPM
Hugging Face 博客发布《The Annotated Diffusion Model》，基于 Ho 等人 2020 年的 DDPM 论文，用 PyTorch 逐步实现扩散模型。
推荐理由：从 DDPM 论文出发逐步用 PyTorch 复现扩散模型，读者可据此理解前向加噪与反向去噪的完整训练流程。
Hugging Face Blog精选AI 评分6262 通过 DeepSpeed 和 FairScale 用 ZeRO 装下更大模型并训练更快
Hugging Face 的 transformers v4.2.0 为 Trainer 加入 DeepSpeed 和 FairScale 的 ZeRO 实验性支持，新增 --deepspeed 和 --sharded_ddp 命令行参数。
推荐理由：作者用 t5-large 与 t5-3b 的实测数据对比 FairScale 与 DeepSpeed 的显存与速度收益，可据此判断自己该先试哪种方案。
Hugging Face Blog精选AI 评分6262 如何用 Transformers 生成文本：不同解码方法详解
Hugging Face 发布教程，介绍如何用 transformers 库实现自回归语言生成的多种解码方法，包括贪心搜索、beam search 和采样。文中以 GPT2 为例给出可运行代码，演示 num_beams、no_repeat_ngram_size、temperature、top_k、top_p 等参数的效果。
推荐理由：系统梳理贪心、beam search 与采样等解码策略的差异，并给出 transformers 中可直接运行的参数配置。
Hugging Face Blog精选AI 评分6262 如何用 Transformers 和 Tokenizers 从零训练一个新语言模型
Hugging Face 发布教程，演示如何用 transformers 和 tokenizers 库从零训练一个 84M 参数的小型语言模型 EsperBERTo，并在世界语上完成预训练与词性标注微调。
推荐理由：以世界语为例完整走通从零预训练到下游微调的流程，可迁移到其他低资源语言。