开源模型、框架与仓库动态：权重开放、社区项目爆火、开源与闭源的力量消长。
Hugging Face 发布开源库 Optimum，目标是简化 Transformer 模型在特定硬件上的训练与推理优化，首个合作方为 Intel。Optimum 与 Intel Neural Compressor 配合，可对 BERT 等模型做训练后量化、量化感知训练和动态量化，用于 Intel Xeon CPU 部署。
推荐理由：Hugging Face 官方发布 Optimum 开源库，读者可了解其与 Intel Neural Compressor 配合量化 Transformer 的路径。
OpenAI 发布 Triton 1.0，这是一门开源的类 Python 编程语言，让没有 CUDA 经验的研究者也能编写高效的 GPU 代码，多数情况下能达到专家水准。Triton 1.0 以开源形式发布。
推荐理由：OpenAI 官方发布 Triton 1.0，说明无 CUDA 经验的研究者也能写出接近专家水平的 GPU 代码。
Hugging Face 等机构提出 DeDLOC 协作分布式训练方法，可自适应参与者的网络与硬件条件，并用 40 名志愿者预训练出孟加拉语模型 sahajBERT。
推荐理由：DeDLOC 用 40 名志愿者和家用 GPU 预训练出孟加拉语模型，读者可了解分布式协作训练如何绕开算力门槛。
Gradio 2.0 发布，可用一行代码为几乎任意 Hugging Face 模型生成 GUI，默认调用 Hugging Face 托管的 Inference API，也可本地运行 transformers 计算。该版本支持并行加载多个模型做对比、串联多个模型构建复杂应用，例如用 3 行代码搭建翻译并摘要芬兰语新闻的应用。安装方式为 pip install gradio。
推荐理由：Gradio 2.0 把 Hugging Face 模型加载与界面搭建压缩到一行代码，读者可据此判断模型演示与组合应用的门槛变化。
Hugging Face 发布开源库 Accelerate，让原始 PyTorch 训练脚本无需重写即可在任意设备上运行。只需在标准训练脚本中加入约五行代码，即可支持单机或多机多 GPU、TPU 以及混合精度训练，并自动处理设备放置。
推荐理由：官方给出五处代码改动即可跑分布式与混合精度的对比，便于判断迁移成本。
Hugging Face 的 transformers v4.2.0 为 Trainer 加入 DeepSpeed 和 FairScale 的 ZeRO 实验性支持，新增 --deepspeed 和 --sharded_ddp 命令行参数。
推荐理由：作者用 t5-large 与 t5-3b 的实测数据对比 FairScale 与 DeepSpeed 的显存与速度收益，可据此判断自己该先试哪种方案。
Hugging Face 发布教程，介绍如何用 transformers 库实现自回归语言生成的多种解码方法，包括贪心搜索、beam search 和采样。文中以 GPT2 为例给出可运行代码，演示 num_beams、no_repeat_ngram_size、temperature、top_k、top_p 等参数的效果。
推荐理由：系统梳理贪心、beam search 与采样等解码策略的差异，并给出 transformers 中可直接运行的参数配置。
Hugging Face 发布教程，演示如何用 transformers 和 tokenizers 库从零训练一个 84M 参数的小型语言模型 EsperBERTo，并在世界语上完成预训练与词性标注微调。
推荐理由：以世界语为例完整走通从零预训练到下游微调的流程，可迁移到其他低资源语言。
OpenAI 发布 GPT-2 分阶段发布的最后一个版本，即参数量 1.5B 的最大版本，同时开放代码和模型权重，以便检测 GPT-2 模型的输出。OpenAI 表示，尽管自 8 月以来已有更大的语言模型发布，仍按原定分阶段发布计划推进，为社区提供一个完整分阶段发布流程的测试案例，并希望它对未来强大模型的开发者有用。
推荐理由：OpenAI 按分阶段发布计划放出 GPT-2 最大版本及权重，可作为完整分阶段发布流程的参考案例。
OpenAI 发布强化学习游戏研究平台 Gym Retro 的完整版，公开可用的游戏数量从约 70 款 Atari 游戏和 30 款 Sega 游戏扩展到覆盖多种模拟器的 1000 款以上。OpenAI 同时发布了用于向该平台添加新游戏的工具。
推荐理由：OpenAI 把强化学习游戏平台 Gym Retro 的游戏规模从约百款扩到 1000 款以上，并公开了添加新游戏的工具。
OpenAI 开源内部项目 OpenAI Baselines，目标是以与已发表结果相当的性能复现强化学习算法。算法将在未来数月内陆续发布，今天的首批发布包含 DQN 及其三个变体。
推荐理由：OpenAI 开源内部复现强化学习算法的 Baselines 项目，首批放出 DQN 及其三个变体，可了解其复现思路与后续发布节奏。
OpenAI 发布 Roboschool，这是一款用于机器人仿真的开源软件，并与 OpenAI Gym 集成。
推荐理由：OpenAI 开源机器人仿真软件并接入 Gym，可了解早期具身智能训练环境的开放方式。
OpenAI 发布 OpenAI Gym 公测版，这是一个用于开发和比较强化学习（RL）算法的工具包。它包含一套持续扩充的环境，涵盖模拟机器人和 Atari 游戏，并提供一个用于比较和复现结果的站点。
推荐理由：OpenAI 官方发布强化学习工具包公测，读者可了解其环境套件与结果对比站点的构成。