Hugging Face 发布博客，介绍为支持 OpenAI gpt-oss 系列而在 transformers 中引入的多项升级，包括可从 Hub 下载的零构建内核、MXFP4 量化、张量并行、专家并行、动态滑动窗口层与缓存、连续批处理与 Paged Attention，以及更快的模型加载。
推荐理由：Hugging Face 官方拆解了为 gpt-oss 引入的六项 transformers 升级，读者可据此了解这些优化如何迁移到其他模型。
Hugging Face 发布教程，介绍如何在 ZeroGPU Spaces 上用 PyTorch 提前编译（AoT）替代即时编译，在 Flux、Wan、LTX 等模型上获得 1.3 至 1.8 倍加速。
推荐理由：Hugging Face 官方给出在 ZeroGPU Spaces 上做 AoT 编译的完整步骤与实测加速比，可直接迁移到自己的演示应用。
通过 Hugging Face MCP Server 将 Claude 接入 Hugging Face Spaces，即可调用 FLUX.1 Krea [dev] 和 Qwen-Image 等模型生成图像。
Hugging Face 发布教程，介绍如何通过 Model Context Protocol（MCP）让 AI 智能体用自然语言调用科研工具，自动完成 arXiv、GitHub、Hugging Face 之间的论文、代码与模型检索和交叉引用。
Hugging Face 发布 kernel-builder 库，让开发者可在本地开发自定义 CUDA kernel，再针对多种架构构建并发布到 Hugging Face Hub 供他人通过 get_kernel 直接调用。
Hugging Face 在 Accelerate 中联合 Axolotl 集成了 ND-Parallel 功能，支持在训练脚本中任意组合数据并行、FSDP、张量并行与上下文并行等策略。
Mistral 用 LoRA 微调 Pixtral-12B 处理卫星图像，在 Aerial Image Dataset（8000 训练/2000 测试样本）的分类任务上显著优于基座模型，基座模型常把 Playground 误判为 Stadium，且会幻觉出不存在的类别名。
Hugging Face 博客演示了如何用 Gradio 的 MCP 集成在 Python 中搭建 AI 购物助手，将 Python 函数自动转换为 LLM 可调用的 MCP 工具。该助手结合 IDM-VTON 扩散模型实现虚拟试衣，并通过 VS Code AI Chat 接入 vton 与 playwright 两个 MCP 服务器，让 LLM 能浏览线上服装店并生成试穿效果图。
PyArrow 和 Pandas 现已支持 Parquet 内容定义分块（CDC），可在 Hugging Face 的 Xet 存储层上对 Parquet 文件高效去重，只上传或下载发生变化的 chunk，从而降低传输与存储成本。
Hugging Face 发布教程，介绍如何用 Diffusers 和 PEFT 优化 Flux.1-Dev 的 LoRA 推理速度，在 H100 上通过 Flash Attention 3、torch.compile 和 FP8 量化配合 LoRA 热插拔，实现约 2.23 倍加速。
推荐理由：Hugging Face 官方给出 Flux LoRA 推理的完整优化配方与实测数据，可迁移到其他扩散模型。
Hugging Face 发布官方 MCP Server（hf.co/mcp），用户可通过一个 URL 访问 Hub 与 Spaces 上的数千个 AI 应用，并可在设置页自定义工具。
Hugging Face 发布博客详解异步推理，将机器人动作预测与执行解耦为 PolicyServer 和 RobotClient 两个进程，通过 gRPC 通信（比 REST API 快约 5 倍），让机器人在计算下一段动作时持续执行当前动作。该方法在 SmolVLA 中引入，任务完成时间提速约 2 倍且成功率相当，适用于 ACT、OpenVLA、PI0 等输出动作块的策略。
Gradio 5.28.0 起支持 MCP 协议，使 Hugging Face Spaces 上数千个 AI 应用可作为 MCP server 接入 LLM，相当于一个「MCP App Store」。
Hugging Face 与 AMD 合作，为 MI300X GPU 编写了三个开源自定义内核——融合残差连接/RMS norm/FP8 转换内核、融合 SwiGLU 激活与 FP8 转换内核、Skinny GEMM 内核，用于在 8 卡 MI300X 节点上通过 VLLM 加速 Llama 3.1 405B 的 FP8 推理。
Hugging Face 以 nanoVLM 项目为例，展示如何用五阶段构建高效多模态数据管道，解决 GPU 空转与填充浪费问题。朴素填充方案中约 60% 的 batch 被无用 padding token 占据，团队随后引入全局最大长度约束，并用背包问题（knapsack）策略将序列打包进固定 token 上限的 batch。
Hugging Face 基础设施团队公开了支撑其生产环境的三大关键告警机制，包括 NAT 网关吞吐量告警和 Hub 请求日志归档成功率告警。NAT 网关告警采用静态阈值，用于发现流量异常并优化云成本；日志归档链路则通过 Filebeat、Logstash 与 Elasticsearch 完成日志的采集、加工与存储。
Sentence Transformers 现已支持训练和微调稀疏嵌入模型，可产出如 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 这类低成本模型，尤其适合混合检索或先检索后重排场景。
Hugging Face 发布教程，介绍用 diffusers 库以 QLoRA 在单张 GPU 上微调 FLUX.1-dev，峰值显存约 10GB 以下。在 RTX 4090 上，QLoRA 峰值显存约 9GB，标准 BF16 LoRA 需 26GB，700 步训练约 41 分钟。
推荐理由：给出在单张消费级 GPU 上微调 FLUX.1-dev 的完整配置与显存对比，方法可直接复用。
TNG 在 24 张 H100 上自托管多个大语言模型，日均消耗超 1 亿 token、生成超 1000 万 token，发现 vLLM 默认 chunked-prefill 会顺序调度 prefill，单个长提示词请求会阻塞后续请求的 prefill 队列，显著拉高首 token 延迟。
Hugging Face 推出 Kernel Hub，让 Python 库和应用直接从 Hugging Face Hub 加载预编译的优化计算内核，无需本地编译。通过 kernels 库的 get_kernel 函数，一行代码即可调用 FlashAttention、量化内核、MoE 层等，自动匹配 Python、PyTorch 和 CUDA 版本，数秒内完成下载。
NVIDIA 发布 Isaac GR00T N1.5，这是其开源人形机器人基础模型 GR00T N1 的首次重大更新，支持语言和图像多模态输入并可通过后训练适配特定本体。
推荐理由：原文给出从数据准备到真机部署的完整命令流程，读者可据此在低成本 SO-101 机械臂上复现微调。
Hugging Face 的 nanoVLM 仓库从零实现了 KV Cache，使自回归生成速度提升 38%。该实现覆盖 Attention 块、逐层缓存的语言模型以及区分 prefill 与 decode 的生成循环三部分，经验可推广到所有自回归语言模型生成。
Arm 工程师 Michael Gamble 基于 Stability AI 的 Stable Audio Open 模型，在 Arm CPU 上构建了一款完全本地运行的音效生成应用，无需 GPU 和云端推理，几秒内即可根据提示词生成 .wav 文件并直接导入 Ableton Live。
用户在使用 Qwen2.5-0.5B-Instruct 以 bf16 精度结合 DeepSpeed ZeRO3 测试 Liger GRPO loss 时，于 TRL 的 GRPO trainer 中触发形状不匹配报错。错误发生在 liger_kernel 的 fused_linear_ppo 前向计算阶段，堆栈显示问题出现在 chunked_loss 的 accumulate_chunk 调用中。
Hugging Face 发布 Python 版 Tiny Agents，把 huggingface_hub 客户端 SDK 扩展为 MCP Client，可从 MCP 服务器拉取工具并在推理时传给 LLM，核心智能体代码约 70 行。
推荐理由：Hugging Face 官方给出约 70 行 Python 代码实现 MCP 智能体的完整拆解，可直接照着搭一个自己的智能体。
Hugging Face Diffusers 现已集成 bitsandbytes、GGUF、torchao、Quanto 和原生 FP8 等多种量化后端，并以 Flux-dev 为例展示其效果。
Hugging Face 发布 nanoVLM，一个用纯 PyTorch 训练视觉语言模型（VLM）的轻量工具包，可在免费 Colab 上启动训练。其视觉骨干采用 Google 的 SigLIP 编码器，语言骨干沿用 Llama 3 架构，两者通过 Modality Projection 模块对齐，训练目标为视觉问答。
推荐理由：官方给出 nanoVLM 的架构选择与训练流程，读者可据此在免费 Colab 上跑通一个 VLM。
Hugging Face 发布博客盘点过去一年视觉语言模型的关键变化，涵盖 any-to-any、推理、小尺寸、MoE 解码器、视觉语言动作模型等新趋势。
Hugging Face 的 LeRobot 项目正推动社区共建机器人数据集，将其定位为机器人领域的“ImageNet”，目前 Hub 上的 lerobot 数据集数量快速增长，贡献主要集中在 So100 和 Koch 机械臂。项目通过简化录制流程、打通上传至 Hugging Face Hub、降低硬件成本来扩大数据多样性，并指出数据整理（curation）是下一阶段的核心挑战。
Gradio 官方教程介绍如何用几行 Python 把 Gradio 应用变成 MCP Server，只需在 launch() 中设置 mcp_server=True，函数即被自动转换为 LLM 可调用的工具，docstring 会生成工具描述和参数。
推荐理由：Gradio 官方给出把任意 Python 函数变成 MCP 工具的最短路径，可据此判断自家应用接入 LLM 工具调用的成本。
Qwen-3 的 chat template 相比 Qwen-2.5 和 QwQ 有四处关键变化：通过 enable_thinking 标志可开关推理，不再强制输出思维链。
Intel 发布权重仅训练后量化方法 AutoRound，通过符号梯度下降联合优化权重舍入与裁剪范围，支持 INT2-INT8 低比特量化。在 INT2 下其相对精度最高达主流基线 2.1 倍，量化 72B 模型在 A100 上仅需 37 分钟（light 模式）。
Hugging Face 发布 Tiny Agents，用约 50 行 TypeScript 代码实现一个由 MCP 驱动的智能体。
推荐理由：作者用 50 行代码把 MCP 客户端与 Agent 循环讲清楚，读者可据此理解工具调用如何接入现有推理客户端。
TNG 基于 olmOCR-7B-0225-preview 微调出一款忠实 OCR 引擎，解决了原模型为生成训练数据而忽略页眉页脚信息的问题。团队用 Qwen2.5-VL-72B-Instruct 生成 8000 份文档数据集，在 8xH100 节点上训练 2.5 个 epoch，使模型能完整提取发票等文档的页眉页脚内容并保留表格解析能力。微调模型已在 Hugging Face 开源。
TNG 在 24 张 H100 GPU 集群上自托管多个大语言模型，支撑 50 个应用、每小时超 5,000 次推理、每天生成超一千万 token，并分析了并发请求下 prefill 与 decode 两阶段的性能差异。
Gradio 不只是构建 UI 的 Python 库，而是通过 UI 和 API 与机器学习模型交互的框架。所有 Gradio 应用自带 API，提供 Python（gradio_client）和 JavaScript（@gradio/client）官方 SDK 及 cURL 访问，并自动生成 REST 端点和 API 文档。
Mistral 提出用 LLM as a Judge 评估 RAG 系统，由 judge LLM 按数值、二元或定性量表为 generator LLM 的回答打分，再对评测数据集求加权平均。
Hugging Face 的 Gradio 月活开发者已超过 100 万，Automatic1111、Oobabooga 的 Text Generation WebUI、Dall-E Mini 和 LLaMA-Factory 等热门开源项目均基于它构建。
Hugging Face 将已有 3 年历史的 NLP Course 更名为 LLM Course，并新增微调 LLM、构建 Deepseek R1 等推理模型的章节。
TNG Technology Consulting 分享了自托管 LLM 服务中请求排队问题的解决方案：在 vLLM 等推理引擎前加一层 LLM-Server，为每个用户和模型维护独立队列并采用轮询调度，避免"重度用户"阻塞他人。