用 StarCoder 微调出编程助手 StarChat
Hugging Face 团队基于 BigCode 的 16B 参数 StarCoder，用 OpenAssistant 对话数据集微调出编程助手 StarChat，并开源了代码、数据集与模型。
推荐理由：完整给出了从对话提示词到 ChatML 格式、标签掩码与 DeepSpeed ZeRO-3 微调的可复现流程，并附代码与数据集链接。
#Hugging Face
#Hugging Face
今日 2 条Hugging Face Blog精选AI 评分6262
Hugging Face BlogAI 评分4747 Hugging Face 深度解析文本到视频模型：从 GAN 到扩散模型的发展与挑战
Hugging Face 发文梳理文本到视频模型的发展脉络，指出该任务比文本到图像更难，需保证帧间时空一致性。早期模型基于 GAN 和 VAE，随后 Phenaki、Make-A-Video、NUWA、VideoGPT、CogVideo 等转向 Transformer 架构，当前主流则采用扩散模型。
Hugging Face Blog精选AI 评分7878 BigCode 发布 StarCoder：15B 参数开源代码大模型
Hugging Face 与 ServiceNow 联合主导的 BigCode 发布 StarCoder 与 StarCoderBase，两个代码大模型基于 GitHub 上许可宽松的数据训练，覆盖 80 多种编程语言，参数量约 15B、训练 1 万亿 token。
推荐理由：官方给出 StarCoder 的参数量、训练数据与 HumanEval 对比表，可据此判断开源代码模型当时的位置。
Hugging Face BlogAI 评分2222 Hugging Face Unity API 如何安装与使用
Hugging Face Unity API 将 Hugging Face Inference API 集成进 Unity 项目，开发者可在 Unity 中调用 Hugging Face 的 AI 模型。
Hugging Face BlogAI 评分3232 用 🤗 Transformers 在 TensorFlow 和 TPU 上训练语言模型
Hugging Face 发布端到端教程，演示如何用 🤗 Transformers、TensorFlow 和 TPU 从零训练一个 RoBERTa base 模型，涵盖训练 tokenizer、处理 WikiText v1 数据集、生成 TFRecord 分片并上传至 Google Cloud Storage，以及最终模型训练与上传的完整流程。
Hugging Face BlogAI 评分2626 Databricks 与 Hugging Face 合作：LLM 训练和调优速度提升最高 40%
Databricks 向 Hugging Face 代码库提交首个官方贡献，新增 Datasets 的 from_spark 函数，可直接将 Apache Spark dataframe 转为 Hugging Face Dataset。以 16GB 数据集为例，处理时间从 22 分钟降至 12 分钟，提速超 40%。Databricks 还计划为 Spark 加入流式支持以进一步加快数据集加载。
Hugging Face Blog精选AI 评分6262 如何在免费版 Google Colab 上用 diffusers 运行 IF 文生图模型
Hugging Face 博客介绍如何用 diffusers 在免费版 Google Colab（13GB CPU 内存、15GB T4 显存）上运行 DeepFloyd 的 IF 文生图模型。
推荐理由：以免费 Colab 为约束，展示 8bit 量化与分阶段加载如何把 40GB 权重的 IF 跑起来，方法可迁移到其他大模型部署。
Hugging Face BlogAI 评分2222 Hugging Face 推出中文博客，加强与中文 AI 社区协作
Hugging Face 上线中文博客 hf.co/blog/zh，由志愿者翻译 transformers、diffusion 和强化学习等博客与课程内容，面向不断壮大的中文 AI 社区。
Hugging Face BlogAI 评分3838 Hugging Face 用 AWS Inferentia2 加速 Transformers 推理
Hugging Face 与 AWS 合作，将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化，借助 optimum-neuron 无需切分或修改模型，一行代码即可编译。
Hugging Face BlogAI 评分2222 用 Transformers 进行图分类：基于 Graphormer 的实战教程
Hugging Face 博客发布教程，演示如何用 Transformers 库（版本 >= 4.27.2）完成图分类任务，目前该库中唯一的图 Transformer 模型是微软的 Graphormer。
Hugging Face BlogAI 评分2222 Hugging Face 与 Substra 合作推出联邦学习演示空间，推动隐私保护 AI
Hugging Face 与开源联邦学习框架 Substra 合作创建了一个演示 Space，让用户体验数据孤岛下联邦学习的训练效果。联邦学习让数据留在本地、仅传输模型权重，用多源数据训练的模型在验证集上几乎总是优于单一数据源模型。Substra 已在乳腺癌研究等真实场景中落地，MELLODDY 项目中 10 家生物制药公司借此共享了全球最大的小分子活性数据集。
Hugging Face BlogAI 评分2222 Snorkel AI 与 Hugging Face 合作：为企业解锁基础模型
Snorkel AI 与 Hugging Face 达成合作，将 Hugging Face 的 Inference Endpoints 集成进 Snorkel Flow 平台，让企业用户可直接调用其超过 150,000 个开源模型来适配自身用例。该服务支持一键创建模型 API，并具备“暂停与恢复”能力，可在客户需要时激活、不需要时休眠，从而控制成本。
Hugging Face Blog精选AI 评分6262 StackLLaMA：用 RLHF 训练 LLaMA 的实操指南
Hugging Face 发布 StackLLaMA 模型并公开完整 RLHF 训练流程，涵盖监督微调、奖励建模和基于 PPO 的强化学习三个阶段，全部代码集成在 TRL 库中。
推荐理由：完整走通 SFT、奖励模型与 PPO 三段 RLHF 流程，并给出 8bit 加 LoRA 在单卡上复现的配置与踩坑记录。
Hugging Face BlogAI 评分2222 Hugging Face 发布 Ethics and Society Newsletter #3：探讨开放机器学习的伦理与保障措施
Hugging Face 发布 Ethics and Society Newsletter #3，阐述其在开放 ML 中兼顾伦理的思路。平台推出 6 类伦理标签（严谨、知情同意、社会意识、可持续、包容、探究），并上线举报功能，供社区标记违规的模型、数据集或 Space。
Hugging Face BlogAI 评分3636 在 Habana Gaudi2 加速器上实现大语言模型快速推理：BLOOMZ 基准测试
Hugging Face 发布 BLOOMZ 在 Habana Gaudi2 上的推理基准，176B 参数版本延迟 3.103 秒，比 A100 80GB 快 1.42 倍；BLOOMZ-7B 延迟 0.734 秒，比 A100 快 2.89 倍。
Hugging Face BlogAI 评分3838 在 Intel CPU 上加速 Stable Diffusion 推理
Hugging Face 展示了在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理的多种技术，借助 Optimum Intel 与 OpenVINO 将单图生成延迟从 32.3 秒降至 16.7 秒，固定 512x512 分辨率后进一步降至 4.7 秒。相比上一代 Ice Lake Xeon 的原生推理，整体提速近 10 倍。
Hugging Face BlogAI 评分2222 使用 Hugging Face 和 Flower 进行联邦学习
Hugging Face 发布教程，演示如何借助 Flower 框架在多个客户端上联邦微调预训练 Transformer 模型 distilBERT，用于 IMDB 影评情感分类。
Hugging Face Blog精选AI 评分6262 用 diffusers 训练自己的 ControlNet
Hugging Face 发布教程，介绍如何用 diffusers 训练 ControlNet，并以基于 FaceSynthetics 数据集的人脸姿态模型 Uncanny Faces 为例完整走了一遍流程。
推荐理由：完整走了一遍从条件设计、数据集构建到 diffusers 训练脚本的 ControlNet 训练流程，并给出不同显存下的参数配置。
Hugging Face BlogAI 评分2222 Hugging Face Hub 改进 Jupyter Notebook 托管支持
Hugging Face 宣布改进 Hub 上 Jupyter Notebook 的托管支持，新增渲染功能，使原本为 JSON 格式的 ipynb 文件能以人类可读形式展示。Hub 目前已托管超 7,000 个 notebook，并支持一键在 Google Colab 中直接打开。
Hugging Face BlogAI 评分2222 Hugging Face Transformers 上线 Informer：面向多变量概率时间序列预测
AAAI21 最佳论文 Informer 现已加入 🤗 Transformers，可用于多变量概率时间序列预测，即预测未来时间序列目标值向量的分布。该模型基于 vanilla Transformer，通过 ProbSparse 注意力将自注意力复杂度从 O(T²D) 降至 O(T log T)，并用 Distilling 操作把堆叠层的内存占用降至 O(N·T log T)。
Hugging Face Blog精选AI 评分6666 Hugging Face 集成 trl 与 peft，在 24GB 消费级 GPU 上完成 20B LLM 的 RLHF 微调
Hugging Face 正式发布 trl 与 peft 的集成，让大语言模型的 RLHF 微调更易上手。方案结合 8-bit 矩阵乘法、低秩适配器和 peft 的 disable_adapters 机制，用同一份模型同时充当参考模型与活动模型，从而省去第二份模型副本。
推荐理由：原文给出在 24GB 消费级 GPU 上完成 20B 模型 RLHF 微调的具体组合方案，可迁移到其他显存受限的训练场景。
Hugging Face Blog精选AI 评分6262 Kakao Brain 联合 Hugging Face 开源 ViT 与 ALIGN 模型及 COYO 数据集
Kakao Brain 与 Hugging Face 发布开源图文数据集 COYO（7 亿对）以及基于它训练的 ViT 和 ALIGN 模型，这是 ALIGN 模型首次免费开源，也是 ViT 和 ALIGN 首次附带训练数据集发布。
推荐理由：Kakao Brain 把 ViT 与 ALIGN 连同训练数据一起开源，读者可据此判断视觉语言模型复现的门槛变化。
Hugging Face Blog精选AI 评分7878 Diffusers 集成 ControlNet，支持多种空间条件控制生成
Hugging Face 在 Diffusers 中集成 ControlNet，推出 StableDiffusionControlNetPipeline，可用深度图、分割图、涂鸦、关键点等空间条件控制 Stable Diffusion 生成结果。
推荐理由：Diffusers 官方给出 ControlNet 的完整接入方式与多种条件控制示例，可直接照代码复现。
Hugging Face BlogAI 评分4848 Hugging Face 社区如何用机器学习搭建土耳其地震救灾应用 afetharita
2023 年土耳其地震后，志愿者在 Hugging Face 上协作搭建救灾应用 afetharita，用 easyocr 做 OCR、基于 bert-base-turkish-cased 微调 token 分类模型提取地址，并通过 Inference API 部署。
Hugging Face BlogAI 评分2222 Hugging Face 发布 Diffusers 库伦理准则
Hugging Face 为 Diffusers 库发布伦理框架，用于指导维护者处理社区贡献时的技术决策，并承诺随项目演进和社区反馈持续调整。准则涵盖透明、一致、简洁、可及、可复现与责任六项价值，同时列出 Community tab、Tag 功能、偏见探索 Space、Safe Stable Diffusion、Hub 分阶段发布及 OpenRAILs 许可等安全机制。
Hugging Face BlogAI 评分1818 Hugging Face 如何加速 Witty Works 写作助手的开发
Witty Works 借助 Hugging Face Expert Acceleration Program，将写作助手的非包容性词汇检测从 spaCy 迁移到 Sentence Transformers 架构，并用 SetFit 实现少样本微调，每个词仅需 15-20 条标注句子。
Hugging Face BlogAI 评分3030 Hugging Face 解读大语言模型红队测试：方法、风险与最佳实践
红队测试通过构造自然语言提示词诱导 LLM 生成有害内容，从而暴露模型漏洞，与人类难以理解的对抗攻击不同。GPT3 早期版本曾表现出性别歧视与针对穆斯林的偏见，微软 Tay 和 Bing 的 Sydney 是缺乏红队评估导致灾难性后果的真实案例。红队可由人工或另一个 LM 执行，角色扮演攻击和用代码作答能绕过经 RLHF 或 SFT 对齐的模型，该领域仍处早期，需要多机构协作共享数据集与最佳实践。
Hugging Face BlogAI 评分4040 Hugging Face 发布 Swift 🧨Diffusers 1.1：Mac 原生 Stable Diffusion 应用提速至 2 倍
Hugging Face 推出 🧨Diffusers for Mac 1.1，这款基于 Core ML 的原生应用将 Stable Diffusion 文生图速度最高提升至 2 倍，并自动为设备选择 GPU 或 Neural Engine 加速器。
Hugging Face BlogAI 评分1818 Fetch 借助 Hugging Face 与 AWS 整合 AI 工具，开发时间节省 30%
消费者奖励公司 Fetch 借助 AWS 合作伙伴 Hugging Face 的 Expert Acceleration Program，将原本依赖第三方黑盒的收据处理方案改为自研 AI/ML 模型，开发时间缩短 30%。
Hugging Face BlogAI 评分3838 Hugging Face 与 AWS 达成战略合作，让 AI 更普惠
Hugging Face 与 AWS 扩大长期战略合作，Hugging Face 将 AWS 作为首选云服务商，开发者可通过 Amazon SageMaker、AWS Trainium 和 AWS Inferentia 训练、微调并部署模型。Hugging Face 上已有超 10 万个免费模型，每日下载量超 100 万次，客户可在 SageMaker 和 EC2 上几次点击完成微调与部署。
Hugging Face BlogAI 评分2626 我们为何转向 Hugging Face Inference Endpoints，或许你也应该考虑
Hugging Face 推出托管服务 Inference Endpoints，可将 Hub 上的模型部署到 AWS、Azure（GCP 即将支持）等多种实例类型上。作者将原本跑在 AWS ECS + Fargate 上的 CPU 推理模型迁移过去，用 RoBERTa 文本分类模型测试显示，large 实例延迟约 80ms，比原方案约 200ms 快一倍以上，但成本高出 24% 至 50%。
Hugging Face Blog精选AI 评分6262 用 BLIP-2 实现零样本图像到文本生成
Hugging Face 发布指南，介绍 Salesforce Research 的 BLIP-2 视觉语言模型已集成到 Transformers，并演示图像描述、提示图像描述、视觉问答和对话式提示四种用法。
推荐理由：以 New Yorker 漫画为例演示 BLIP-2 的零样本图像描述、提示描述、视觉问答和对话式提示四种用法，附可运行代码。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 PEFT 库，支持 LoRA 等参数高效微调方法
Hugging Face 发布 PEFT 库，提供 LoRA、Prefix Tuning、Prompt Tuning、P-Tuning 等参数高效微调方法，并与 Transformers 和 Accelerate 集成。
推荐理由：官方给出 PEFT 库支持的微调方法与消费级硬件上的显存占用示例，便于判断低成本微调大模型的可行路径。
Hugging Face Blog精选AI 评分6262 SpeechT5 上线 Hugging Face Transformers，一套架构支持语音合成、识别与音色转换
Hugging Face 宣布 SpeechT5 已集成进 Transformers，官方权重发布在 Hugging Face Hub，并提供语音合成、音色转换和语音识别三个 Spaces 演示。
推荐理由：SpeechT5 以同一套架构覆盖 TTS、语音转换与 ASR，文中给出可直接运行的代码与权重入口，便于判断能否接入现有语音流程。
Hugging Face BlogAI 评分3636 Hugging Face 推出 AI vs. AI：深度强化学习多智能体竞赛系统
Hugging Face 发布开源工具 AI vs. AI，用于在多智能体环境中对强化学习模型进行相对排名。该工具托管于 Spaces，由匹配算法、结果 Dataset 和展示 ELO 评分的 Leaderboard 组成，模型上传至 Hub 后即自动参与对战评估，起始 ELO 为 1200。
Hugging Face BlogAI 评分2424 用 Intel Sapphire Rapids 加速 PyTorch Transformers：推理篇
Hugging Face 在 Ice Lake 与 Sapphire Rapids 两种 Amazon EC2 实例上对比了 distilbert-base-uncased、bert-base-uncased 和 roberta-base 的推理性能，测试 16 与 128 token 句子的单条及批量预测延迟。
Hugging Face BlogAI 评分2828 Hugging Face 博客：深入解析视觉语言模型的训练策略
Hugging Face 发布博客深入解析视觉语言模型的训练方法，涵盖对比学习、PrefixLM、交叉注意力多模态融合、MLM/ITM 以及免训练等五类预训练策略。文章以 OpenAI 的 CLIP 为例说明对比学习如何将图像与文本映射到同一特征空间，并介绍如何用 🤗 Transformers 实验该领域最新进展。
Hugging Face BlogAI 评分2222 Hugging Face 计算机视觉生态现状：8 大任务、3000+ 模型与 100+ 数据集
Hugging Face 公布其计算机视觉生态现状：Hub 上已支持 8 个核心视觉任务、超过 3000 个模型和 100 多个数据集，涵盖图像分类、分割、目标检测、深度估计等，并兼容 ViT、Swin、DETR 及 ConvNeXt、ResNet 等架构。
Hugging Face BlogAI 评分3030 用 Stable Diffusion 生成 2D 游戏素材：AI for Game Development #4
Hugging Face 博客"AI for Game Development"系列第 4 篇讲解如何用 Stable Diffusion 的 Image2Image 生成 2D 游戏素材，并以农场游戏的玉米和镰刀图标为例演示完整流程。
Hugging Face Blog精选AI 评分7878 用 LoRA 高效微调 Stable Diffusion：diffusers 官方支持与实操脚本
Hugging Face 在 diffusers 中正式加入 LoRA 微调支持，覆盖 Dreambooth 和完整微调两种方式，训练脚本最低可在 11 GB 显存上运行。
推荐理由：Hugging Face 官方给出 LoRA 微调 Stable Diffusion 的完整脚本与推理流程，可据此在 11 GB 显存上复现。