如何用对抗数据动态训练你的模型
Hugging Face 博客介绍动态对抗数据收集（DADC）：让用户用各种手写方式欺骗模型，再把被标记的对抗样本加入数据集反复训练。文章以 MNIST 手写数字识别为例，模型训练 20 个 epoch 后在测试集上达到 89% 准确率，并借助 🤗 Spaces 搭建交互与标记流程。
#开源生态
#开源生态
今日 4 条Hugging Face BlogAI 评分2222
Hugging Face BlogAI 评分3434 BLOOM 176B 参数模型训练背后的技术揭秘
Hugging Face 披露了 176B 参数多语言模型 BLOOM 的训练技术细节，该模型基于 Megatron-DeepSpeed 框架、采用 3D 并行技术，在 384 块 80GB A100 GPU 上训练了约 3.5 个月。训练数据为 59 种语言、350B token，模型架构类似 GPT3 并做了改进，词表规模 250,680。
Hugging Face BlogAI 评分2626 如何用 Sentence Transformers 构建歌单生成器
作者用 Sentence Transformers 的语义搜索功能搭建了一个歌单生成器：将歌词按段落切分并嵌入，再对输入提示词做语义搜索匹配歌曲，并封装成基于 Gradio Blocks 的多步应用托管在 Hugging Face Spaces。
Hugging Face Blog精选AI 评分7878 Hugging Face 发布 176B 参数开源多语言模型 BLOOM
Hugging Face 发布 BLOOM，一个 176B 参数的多语言大语言模型，可生成 46 种自然语言和 13 种编程语言的文本，由 70 多个国家 1000 多名研究者协作完成，在法国 Jean Zay 超算上训练 117 天。
推荐理由：BLOOM 以 176B 参数覆盖 46 种自然语言，并公开训练中间检查点，可据此了解开放大模型在透明度上的做法。
Hugging Face BlogAI 评分2222 如何用 Sentence Transformers 开启你的第一个机器学习项目
Hugging Face 发文介绍如何以 Sentence Transformers（ST）为例从零上手一个新 ML 库并完成首个自驱项目。ST 可将句子、段落和图像转为嵌入向量，并用 util.cos_sim 计算余弦相似度，支持语义搜索、聚类和模型蒸馏等应用。该库在 GitHub 已获近 8,000 stars，超过 3,000 个项目和包依赖它。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Evaluation on the Hub，零代码评测任意模型与数据集
Hugging Face 推出 Evaluation on the Hub，由 AutoTrain 驱动，用户无需写代码即可在 Hub 上用任意数据集和指标评测模型。评测结果会以 PR 形式写入模型卡的元数据，并汇总到数据集排行榜，官方已用该工具评测了数百个模型。工具已嵌入现有生态，评测提交界面和排行榜都是 Hugging Face Spaces，用户可从数据集页面发起评测。
推荐理由：官方说明可在 Hub 上零代码评测任意模型与数据集，并给出结果写入模型卡与排行榜的完整流程。
Hugging Face BlogAI 评分3030 Hugging Face Optimum 如何将 Transformers 模型转换为 ONNX
Hugging Face 博客介绍了三种将 Transformers 模型转为 ONNX 的方式：底层 torch.onnx、中层 transformers.onnx 和高级 Optimum。
Hugging Face BlogAI 评分2222 Hugging Face 深度强化学习课程：用 Deep Q-Learning 玩 Space Invaders
Hugging Face 深度强化学习课程第三单元讲解 Deep Q-Learning，用神经网络替代 Q-table 来近似各动作的 Q-value，并训练智能体玩 Space Invaders 等 Atari 环境。
Hugging Face BlogAI 评分4242 Hugging Face Hub 推出 Pull Requests 和 Discussions
Hugging Face Hub 上线 pull requests 和 discussions 功能，所有模型、数据集和 Spaces 仓库的 community 标签页均可使用，社区成员可创建并参与讨论和 PR。PR 不使用 fork 和分支，而是将贡献直接推送到源仓库上的自定义 ref 分支，并可在网页端直接评论、合并或关闭。官方称这是 Hub 史上最大更新。
Hugging Face BlogAI 评分1717 Hugging Face 深度强化学习课程：Q-Learning 入门（下）
Hugging Face 深度强化学习课程第二单元第二部分讲解 Q-Learning，并从头实现首个 RL 智能体。Q-Learning 是一种 off-policy、基于价值的方法，通过 TD 方式训练动作价值函数，其内部维护一张 Q-table 记录每个状态-动作对的价值。
Hugging Face BlogAI 评分1818 Hugging Face 多模态团队发布研究伦理章程，将伦理原则置于研究生命周期核心
Hugging Face 多模态学习团队发布了一份伦理章程，将伦理原则正式纳入其机器学习研究生命周期。章程列出了要防止的用例，包括生成虚假信息、生成个人身份信息，以及在医疗、法律、金融、移民等高风险领域的不谨慎使用。团队同时提出透明、开放可复现、公平、自我批判和尊重署名五项价值观，并承认这些价值观之间可能存在冲突，需逐案权衡。
Hugging Face BlogAI 评分1212 Hugging Face 深度强化学习课程：Q-Learning 入门（第一部分）
Hugging Face 深度强化学习课程更新第二单元第一部分，讲解基于价值的方法，并区分蒙特卡洛与时序差分学习。该部分涵盖状态价值函数、动作价值函数与贝尔曼方程，为后续学习 Q-Learning 及深度 Q-Learning 打基础。
Hugging Face BlogAI 评分2222 Hugging Face 推出 Fellowship 计划，支持开源机器学习贡献者
Hugging Face 宣布启动 Fellowship 计划，为开源机器学习生态的关键贡献者提供算力资源、周边物资和官方认可，首批 Fellow 包括创建最大西语 NLP 社区的 María Grandury、向 Hub 贡献超 300 个模型的 Manuel Romero 等。
Hugging Face Blog精选AI 评分6262 Gradio 3.0 发布，新增 Blocks 低层 API 与前端重构
Hugging Face 发布 Gradio 3.0，对 Gradio 库做了彻底重新设计。新版前端改用 Svelte 等现代技术，页面体积更小、加载更快，并改进了 Dataframe 等组件、新增 Gallery 组件和 TabbedInterface 类。
推荐理由：官方说明 Gradio 3.0 的前端重构与 Blocks 低层 API，读者可据此判断自定义 ML demo 布局与数据流的写法。
Hugging Face BlogAI 评分88 Hugging Face 首届学生大使计划开放申请
Hugging Face 开放首届 Student Ambassador Program 申请，截止日期为 2022 年 6 月 13 日，计划于 6 月 30 日启动、12 月 31 日结束。
Hugging Face BlogAI 评分4040 Hugging Face Optimum 1.2 支持 Transformers pipelines 加速推理
Hugging Face 开源库 Optimum 发布 1.2 版本，新增对 Transformers pipelines 的推理支持，首批接入 ONNX Runtime，用户可将 AutoModelForXxx 直接替换为对应的 ORTModelForXxx 类。
Hugging Face Blog精选AI 评分6262 Hugging Face 完成 1 亿美元 C 轮融资，由 Lux Capital 领投
Hugging Face 宣布完成 1 亿美元 C 轮融资，由 Lux Capital 领投，Sequoia、Coatue 等参与，现有投资方 Addition、a_capital、SV Angel 等继续支持。
推荐理由：Hugging Face 官方披露 C 轮融资规模、领投方与平台现有模型和数据集数量，可据此了解其开源路线与后续投入方向。
Hugging Face BlogAI 评分2626 Hugging Face 深度强化学习课程：深度强化学习入门
Hugging Face 推出免费深度强化学习课程，从入门到专家，使用 Stable Baselines3、RL Baselines3 Zoo 和 RLlib 等库。
Hugging Face BlogAI 评分2222 Hugging Face 推出教育计划：目标 2023 年底教会 500 万人机器学习
Hugging Face 发布教育计划，目标在 2023 年底前向 500 万人教授机器学习。该计划面向所有人、初学者和教师，提供 NLP、深度强化学习、Gradio 演示构建等免费课程，以及翻译成 8 种语言的教师工具包，并已在 3 月的 ML demo.cratization tour 中为 16 个国家超 1000 名学生授课。
Hugging Face BlogAI 评分1515 Hugging Face 工程师 Lewis Tunstall 谈 transformers 与大规模模型评估
Hugging Face 机器学习工程师 Lewis Tunstall 在播客中介绍了自己从 2018 年使用 pytorch-pretrained-bert 到合著《NLP with Transformers》的经历，并谈到在 transformers 库中推动 ONNX 格式导出，让模型只需一行代码即可转换，从而获得更低延迟和更高吞吐。
Hugging Face BlogAI 评分2222 Habana Labs 与 Hugging Face 合作加速 Transformer 模型训练
Habana Labs 与 Hugging Face 宣布合作，将 Habana 的 SynapseAI 软件套件与 Hugging Face Optimum 开源库集成，开发者只需几行代码即可在 Habana Gaudi 处理器上加速 Transformer 训练。
Hugging Face BlogAI 评分2222 Hugging Face 为何在 Transformers 库中反其道而行，放弃 DRY 原则
Hugging Face 的 Transformers 库有意不遵循 DRY 原则，转而采用"单模型文件策略"，即模型前向传播所需的全部代码只放在一个 model 文件中，注意力机制代码因此被复制 50 多次。官方给出的理由包括：库由开源社区共建、建模代码本身就是产品、机器学习领域演进极快、模型发布后基本静态不变。
Hugging Face BlogAI 评分1717 Hugging Face 宣布启动 AI 研究驻留计划
Hugging Face 推出为期 9 个月的 AI 研究驻留计划，入选者将与 Science Team 研究员合作选定研究课题、开发新的机器学习技术并争取发表成果。申请不限背景，需具备编程能力与微积分、线性代数等基础，申请截止日期为 2022 年 4 月 3 日。
Hugging Face BlogAI 评分3838 如何在 🤗 Transformers 中用 Wav2Vec2 对超长音频做自动语音识别
Hugging Face 博客介绍了利用 Wav2Vec2 的 CTC 架构特性，在 🤗 Transformers 中对任意长音频乃至实时语音做高质量自动语音识别。
Hugging Face BlogAI 评分3434 在 🤗 Transformers 中用 n-gram 增强 Wav2Vec2 语音识别
🤗 Transformers 现已集成 Kensho Technologies 的 pyctcdecode 库，可将 n-gram 语言模型与微调后的 Wav2Vec2 checkpoint 结合用于音频解码。
Hugging Face BlogAI 评分3636 用 Hugging Face Transformers 和 Amazon SageMaker 部署 GPT-J 6B 推理
Hugging Face 发布教程，介绍如何用 Amazon SageMaker 和 Hugging Face Inference Toolkit 部署 EleutherAI 的 GPT-J 6B 进行实时推理，可在 NVIDIA T4 GPU 实例（约 500 美元/月）上运行。
Hugging Face Blog精选AI 评分6262 Gradio 加入 Hugging Face
Hugging Face 收购机器学习初创公司 Gradio，Gradio 联合创始人撰文宣布这一消息。Gradio 于 2019 年由斯坦福博士生与三位室友发布，用于让机器学习工程师快速搭建并分享模型 demo，至今已有超过 30 万个 demo 用它构建。作者表示加入 Hugging Face 后将继续发展 Gradio，让任何有浏览器和网络连接的人都能使用机器学习模型。
推荐理由：Gradio 创始人以当事方身份讲述被收购的经过，读者可了解这款开源库从 2019 年起步到 30 万 demo 的路径。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Perceiver IO 加入 Transformers，支持任意模态
Hugging Face 将 Google DeepMind 的 Perceiver IO 加入 Transformers 库，这是首个可处理文本、图像、音频、视频、点云等多种模态及其组合的 Transformer 类模型。
推荐理由：Hugging Face 官方详解 Perceiver IO 的接入方式，读者可据此了解这套架构如何处理文本、图像、音频等多模态输入。
Hugging Face BlogAI 评分5050 Hugging Face 从零训练 GPT-2 代码生成模型 CodeParrot
Hugging Face 发布教程，介绍如何从零训练 GPT-2 large（1.5B 参数）代码生成模型 CodeParrot，用于自动补全 Python 代码。
Hugging Face BlogAI 评分2222 使用 Optimum 在 Graphcore IPU 上快速上手 Hugging Face Transformers
Hugging Face 与 Graphcore 合作推出 Optimum Graphcore，让 Transformer 模型可在 Graphcore IPU 上加速，BERT 成为首个 IPU 优化模型。
Hugging Face BlogAI 评分2222 用 🤗 Transformers 微调 XLSR-Wav2Vec2 实现低资源 ASR
Hugging Face 发布教程，演示如何用 🤗 Transformers 将预训练检查点 Wav2Vec2-XLS-R-300M 微调用于低资源语音识别。
Hugging Face BlogAI 评分3030 大语言模型：新的摩尔定律？
微软和 NVIDIA 发布 Megatron-Turing NLG 530B，号称全球最大最强的生成式语言模型，但复现该实验的基础设施成本接近 1 亿美元。作者质疑这类超大模型趋势：单台 DGX A100 服务器售价 19.9 万美元、功耗最高 6.5 千瓦，而 2019 年马萨诸塞大学研究显示在 GPU 上训练 BERT 的碳排放约等于一次横跨美国的飞行。
Hugging Face BlogAI 评分1717 Hugging Face 课程第二部分发布暨社区活动
Hugging Face 课程第二部分将于 11 月 15 日发布，聚焦 token 分类、语言建模、翻译、摘要和问答等常见 NLP 任务，并深入讲解 Datasets 与 Tokenizers。配套社区活动包含两天讲座和团队项目，AWS 通过 Amazon SageMaker 提供免费算力，完成项目者可获结业证书。
Hugging Face BlogAI 评分5050 Hugging Face 用 10 亿训练句对训练句嵌入模型
Hugging Face 在社区周期间用 10 亿句对训练出 SOTA 句嵌入模型，硬件为 7 块 TPU v3-8。方法采用批内负样本的对比学习（InfoNCE/NTXentLoss），并指出更大 batch size、难负样本与跨数据集批次能提升效果。模型与数据集已在模型卡中公开。
Hugging Face BlogAI 评分2222 Hugging Face：机器学习即代码的时代已经到来
Hugging Face 发文指出，Transformer 正从 NLP 扩展为通用 ML 架构，在语音、计算机视觉、点云乃至蛋白质结构预测上表现优异，Kaggle 调查显示其使用率逐年上升而 RNN、CNN 和梯度提升算法持续下滑。
Hugging Face BlogAI 评分3030 用 Gradio 在 Hugging Face Spaces 中展示你的项目
Hugging Face 博客介绍如何用 Gradio 在 Spaces 中托管 ML 演示应用。Gradio 已集成 Hugging Face Hub，只需几行代码调用 gr.Interface.load() 即可通过 Inference API 演示 Hub 上的模型，支持 image-to-text、speech-to-text、text-to-speech 等类型。
Hugging Face BlogAI 评分3030 用 Streamlit 在 Hugging Face Spaces 上托管模型与数据集
Hugging Face 发布教程，介绍如何用 Streamlit 在 Hugging Face Spaces 上托管模型和数据集并搭建演示应用。
Hugging Face BlogAI 评分2222 Hugging Face 夏季回顾：Hub 模型破 1.6 万，Spaces Beta 上线
Hugging Face 发布夏季回顾，Hub 公开模型仓库从 1 万增至超 1.6 万，并推出免费托管 ML 演示应用的 Spaces Beta，支持 Gradio 和 Streamlit。
Hugging Face Blog精选AI 评分6060 Hugging Face 发布 Optimum：面向大规模 Transformer 的优化工具库
Hugging Face 发布开源库 Optimum，目标是简化 Transformer 模型在特定硬件上的训练与推理优化，首个合作方为 Intel。Optimum 与 Intel Neural Compressor 配合，可对 BERT 等模型做训练后量化、量化感知训练和动态量化，用于 Intel Xeon CPU 部署。
推荐理由：Hugging Face 官方发布 Optimum 开源库，读者可了解其与 Intel Neural Compressor 配合量化 Transformer 的路径。
Hugging Face BlogAI 评分3030 Hugging Face 与 Graphcore 合作推出 IPU 优化的 Transformer 模型
Hugging Face 在 2021 AI Hardware Summit 上宣布启动 Hardware Partner Program，Graphcore 作为创始成员参与，双方将通过新开源库 Optimum 提供经 Hugging Face 认证的 IPU 优化模型，首批模型预计今年晚些时候上线。