Meta 发布 Llama 2，Hugging Face 同步上线 12 个开放模型
Meta 发布 Llama 2 系列开放大语言模型，包含 7B、13B、70B 三种规模的预训练与微调版本，采用允许商用的社区许可，代码、预训练模型和微调模型同日放出。
推荐理由：Meta 开放 Llama 2 商用许可，Hugging Face 同步给出推理、量化与微调的完整接入路径。
#Meta
#Meta
今日 0 条Hugging Face Blog精选AI 评分9090
Hugging Face BlogAI 评分2222 Hugging Face 开源文本生成与 LLM 生态概览
Hugging Face 梳理其开源文本生成与 LLM 生态，涵盖因果语言模型与 text-to-text 模型、LLM 服务工具及 PEFT 微调。
Hugging Face BlogAI 评分3636 如何为低资源 ASR 微调 MMS Adapter 模型
Hugging Face 发布教程，介绍如何基于 Meta AI 的 MMS 检查点微调 Adapter 层以适配低资源语言的语音识别。MMS 的 Adapter 训练仅需 10-20 分钟微调即可获得极低词错误率，每个 Adapter 层仅约 2.5M 权重，比微调整个模型更省内存、更稳健。
Hugging Face BlogAI 评分2222 Hugging Face Hub 上线 fastText 官方模型镜像
Hugging Face 开始托管 Meta AI 开源的 fastText 官方镜像，涵盖全部 157 种语言的词向量和最新语言识别模型，用户可通过 huggingface_hub 的 hf_hub_download 几行命令下载使用。该集成同时支持文本分类与特征提取 widget，并提供语言识别在线体验。
Hugging Face Blog精选AI 评分6262 StackLLaMA：用 RLHF 训练 LLaMA 的实操指南
Hugging Face 发布 StackLLaMA 模型并公开完整 RLHF 训练流程，涵盖监督微调、奖励建模和基于 PPO 的强化学习三个阶段，全部代码集成在 TRL 库中。
推荐理由：完整走通 SFT、奖励模型与 PPO 三段 RLHF 流程，并给出 8bit 加 LoRA 在单卡上复现的配置与踩坑记录。
Hugging Face BlogAI 评分3030 Hugging Face 解读大语言模型红队测试：方法、风险与最佳实践
红队测试通过构造自然语言提示词诱导 LLM 生成有害内容，从而暴露模型漏洞，与人类难以理解的对抗攻击不同。GPT3 早期版本曾表现出性别歧视与针对穆斯林的偏见，微软 Tay 和 Bing 的 Sydney 是缺乏红队评估导致灾难性后果的真实案例。红队可由人工或另一个 LM 执行，角色扮演攻击和用代码作答能绕过经 RLHF 或 SFT 对齐的模型，该领域仍处早期，需要多机构协作共享数据集与最佳实践。
Hugging Face BlogAI 评分2222 用 AI 生成游戏剧情：ChatGPT 在游戏开发中的实践与局限
Hugging Face 的 AI for Game Development 系列教程第五篇展示了用 ChatGPT 为农场游戏生成剧情：先让模型写故事梗概，再通过多轮对话要求其更具原创性并去除魔法元素，最后生成游戏与商店物品描述。
Hugging Face BlogAI 评分5252 Hugging Face 解读对话智能体为何有用：IFT、SFT、CoT 与 RLHF 的分工
Hugging Face 博客梳理了让对话智能体有用的关键技术，包括指令微调（IFT）、监督微调（SFT）、思维链（CoT）提示和基于人类反馈的强化学习（RLHF），并对比了 LaMDA、BlenderBot 3、Sparrow、ChatGPT/InstructGPT 和 Anthropic Assistant 在访问方式、训练数据、模型架构与评测方向上的差异。
Hugging Face BlogAI 评分4040 Hugging Face transformers 集成 Mask2Former 与 OneFormer，统一图像分割
Mask2Former 和 OneFormer 两款图像分割模型现已集成到 Hugging Face 开源库 transformers 中。Mask2Former 统一了实例、语义和全景分割三种任务，但需分别训练；OneFormer 仅需在全景数据集上训练一次即可在三种任务上达到 SOTA，精度更高但因额外文本编码器延迟更大。作者已发布 30 个基于不同数据集训练的 checkpoint。
Hugging Face BlogAI 评分2222 Hugging Face 扩散模型课程与直播活动：Stable Diffusion 创作者等参与分享
Hugging Face 与 Jonathan Whitaker 合作的扩散模型课程将于 11 月 28 日免费发布，讲解扩散模型的理论与应用。配合课程上线，11 月 30 日将举办社区直播活动，Stable Diffusion 创作者、Stability AI 与 Meta 的研究者等将带来演讲。
Hugging Face Blog精选AI 评分6262 Hugging Face Accelerate 如何借助 PyTorch 运行超大模型
Hugging Face 介绍 Accelerate 如何借助 PyTorch 特性在内存不足的消费级硬件上加载并推理超大模型，示例可在免费 Colab 实例上运行 OPT-6.7B。
推荐理由：以 OPT-6.7B 到 BLOOM 为例，讲清 Accelerate 如何用 meta device、device map 和分片加载把超大模型跑在普通硬件上。
Hugging Face BlogAI 评分3838 如何在 🤗 Transformers 中用 Wav2Vec2 对超长音频做自动语音识别
Hugging Face 博客介绍了利用 Wav2Vec2 的 CTC 架构特性，在 🤗 Transformers 中对任意长音频乃至实时语音做高质量自动语音识别。
Hugging Face BlogAI 评分3434 在 🤗 Transformers 中用 n-gram 增强 Wav2Vec2 语音识别
🤗 Transformers 现已集成 Kensho Technologies 的 pyctcdecode 库，可将 n-gram 语言模型与微调后的 Wav2Vec2 checkpoint 结合用于音频解码。
Hugging Face BlogAI 评分2222 用 🤗 Transformers 微调 XLSR-Wav2Vec2 实现低资源 ASR
Hugging Face 发布教程，演示如何用 🤗 Transformers 将预训练检查点 Wav2Vec2-XLS-R-300M 微调用于低资源语音识别。
Hugging Face BlogAI 评分4040 Hugging Face 在 PyTorch / XLA TPU 上训练 Transformer
Hugging Face 与 Facebook PyTorch、Google TPU 团队合作，让 PyTorch 用户能在 Cloud TPU 上训练模型并保持原有 Trainer 接口不变。PyTorch / XLA 新增 xla 设备类型，通过 xm.optimizer_step 完成梯度聚合与优化器更新，并用 MpDeviceLoader 让输入流水线与图追踪重叠执行。
Hugging Face Blog精选AI 评分6262 通过 DeepSpeed 和 FairScale 用 ZeRO 装下更大模型并训练更快
Hugging Face 的 transformers v4.2.0 为 Trainer 加入 DeepSpeed 和 FairScale 的 ZeRO 实验性支持，新增 --deepspeed 和 --sharded_ddp 命令行参数。
推荐理由：作者用 t5-large 与 t5-3b 的实测数据对比 FairScale 与 DeepSpeed 的显存与速度收益，可据此判断自己该先试哪种方案。
Hugging Face BlogAI 评分3131 将 fairseq wmt19 翻译系统移植到 transformers
Hugging Face 发布客座博客，记录将 Facebook FAIR 的 fairseq wmt19 新闻翻译系统移植到 transformers 的完整过程。