Intel 推出 AutoRound：面向 LLM 与 VLM 的先进量化工具
Intel 发布权重仅训练后量化方法 AutoRound，通过符号梯度下降联合优化权重舍入与裁剪范围，支持 INT2-INT8 低比特量化。在 INT2 下其相对精度最高达主流基线 2.1 倍，量化 72B 模型在 A100 上仅需 37 分钟（light 模式）。
#开源生态
#开源生态
今日 0 条Hugging Face BlogAI 评分3030
Hugging Face BlogAI 评分5757 ServiceNow 开源 PipelineRL：用 inflight 权重更新提升 LLM 强化学习吞吐
ServiceNow 开源实验性 RL 实现 PipelineRL，通过训练中 inflight 权重更新，在不停推理的前提下持续保持最优 batch size，缓解高吞吐推理与 on-policy 数据采集之间的取舍。
Hugging Face BlogAI 评分3030 为什么 Gradio 不只是另一个 UI 库：17 个理由
Gradio 不只是构建 UI 的 Python 库，而是通过 UI 和 API 与机器学习模型交互的框架。所有 Gradio 应用自带 API，提供 Python（gradio_client）和 JavaScript（@gradio/client）官方 SDK 及 cURL 访问，并自动生成 REST 端点和 API 文档。
Hugging Face BlogAI 评分3636 Protect AI 与 Hugging Face 合作半年：扫描 447 万个模型版本
Protect AI 与 Hugging Face 合作半年，截至 2025 年 4 月 1 日已扫描 Hugging Face Hub 上 141 万个仓库中的 447 万个模型版本，在 5.17 万个模型中识别出 35.2 万个不安全或可疑问题。
Hugging Face Blog精选AI 评分6262 Hugging Face 收购 Pollen Robotics，开卖开源人形机器人 Reachy 2
Hugging Face 宣布收购已成立 9 年的开源机器人公司 Pollen Robotics，这是其第五次收购，此前曾收购 Gradio 和 XetHub。
推荐理由：Hugging Face 收购 Pollen Robotics 并开卖 Reachy 2，可看到开源机器人从代码库走向硬件销售的具体路径。
Hugging Face BlogAI 评分5858 Hugging Face 与 Cloudflare 合作，为 FastRTC 提供实时语音视频 WebRTC 基础设施
Hugging Face 与 Cloudflare 达成合作，FastRTC 开发者用 Hugging Face token 即可接入 Cloudflare 的 WebRTC 基础设施。
Hugging Face BlogAI 评分2222 Hugging Face 与 MBZUAI 推出阿拉伯语评测榜单，新增指令遵循基准
Hugging Face 与 MBZUAI 合作推出 Arabic-Leaderboards Space，统一阿拉伯语 AI 评测入口，目前上线 AraGen-03-25 和 Arabic Instruction Following 两个榜单。
Hugging Face Blog精选AI 评分8585 Llama 4 Maverick 与 Scout 上线 Hugging Face
Meta 发布 Llama 4 Maverick（约 400B 总参数）与 Llama 4 Scout（约 109B 总参数），两者均为 17B 激活参数的 MoE 模型，原生支持文本与图像输入，并已在 Hugging Face Hub 上线。
推荐理由：Hugging Face 官方给出 Llama 4 两款 MoE 模型的架构细节与部署入口，可据此判断长上下文与多模态的落地条件。
Hugging Face BlogAI 评分2222 Gradio 月活用户突破 100 万：从斯坦福 Demo 工具到 AI 应用标准 UI
Hugging Face 的 Gradio 月活开发者已超过 100 万，Automatic1111、Oobabooga 的 Text Generation WebUI、Dall-E Mini 和 LLaMA-Factory 等热门开源项目均基于它构建。
Hugging Face BlogAI 评分2727 Hugging Face 的 NLP Course 升级更名为 LLM Course
Hugging Face 将已有 3 年历史的 NLP Course 更名为 LLM Course，并新增微调 LLM、构建 Deepseek R1 等推理模型的章节。
Hugging Face BlogAI 评分2222 Hugging Face 如何用 Infisical 扩展 AI 基础设施的密钥管理
Hugging Face 将密钥管理从 AWS 单云方案迁移至 Infisical，以支撑其 Hub 上超 400 万构建者的多云端（Azure、GCP）环境。团队通过 Infisical Kubernetes Operator 自动同步密钥更新，并借助 Okta 集成实现细粒度 RBAC，取代了不安全的本地 .env 文件。工程师仍偏好手动重新部署，以应对每分钟超 1000 万请求的高流量场景。
Hugging Face BlogAI 评分3434 Hugging Face 将 Intel Gaudi 支持原生集成进 TGI
Hugging Face 通过 PR #3091 将 Intel Gaudi 硬件支持原生集成进 Text Generation Inference（TGI），取代此前独立维护的 tgi-gaudi 分支，覆盖 Gaudi1、Gaudi2、Gaudi3 全线硬件。
Hugging Face Blog精选AI 评分6666 Hugging Face 解读 DeepSeek-V3 0324：MIT 许可与基准提升
DeepSeek 本周在 Hugging Face Hub 上线 DeepSeek-V3 0324，架构与初代 DeepSeek-V3 相同，但改用 MIT 许可，重点提升指令遵循、代码与数学能力。
推荐理由：梳理 DeepSeek-V3 0324 的基准提升与 MIT 许可变化，并给出本地部署与安全使用的具体路径。
Hugging Face BlogAI 评分3434 如何用 Sentence Transformers 训练和微调 Reranker 模型
Sentence Transformers 库可用于微调 reranker（Cross Encoder）模型，使其在自有数据上超越所有现有方案，也能从零训练出强力的新 reranker。
Hugging Face BlogAI 评分3838 Open R1 教程：如何在本地用 OlympicCoder 7B 搭建编程助手
Hugging Face 博客介绍了如何在本地通过 LM Studio 和 VS Code 的 Continue 扩展运行 OlympicCoder 7B 编程模型，推荐使用 4bit GGUF 量化版本。该模型在 LiveCodeBench 评测中表现优于 Claude 3.7 Sonnet 和 GPT-4o，基于 CodeForces-CoTs 数据集优化，适合处理竞赛类编程难题。
Hugging Face BlogAI 评分2222 Hugging Face 向白宫 AI 行动计划 RFI 提交回应：力挺开源与开放科学
Hugging Face 于 3 月 14 日向白宫 OSTP 的 AI 行动计划 RFI 提交回应，主张开放 AI 系统与开放科学是提升性能、采用率与安全性的基础。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Xet 存储上线 Hub，首批仓库从 LFS 迁移
Hugging Face 的 Xet 团队将首批 Model 和 Dataset 仓库从 LFS 迁移到 Xet 存储，迁移了 4.5 TB 数据，约 6% 的 Hub 下载流量转到 Xet 基础设施。
推荐理由：Hugging Face 官方复盘 Xet 存储首次迁移，给出块级去重带来的上传下载变化与迁移中的工程取舍。
Hugging Face Blog精选AI 评分6666 NVIDIA 在 GTC 2025 发布物理 AI 开源模型与数据集
NVIDIA 在 GTC 2025 上发布三项面向物理 AI 的开源成果：世界基础模型 Cosmos Transfer、Physical AI Dataset 以及人形机器人基础模型 NVIDIA Isaac GR00T N1。
推荐理由：NVIDIA 一次性开源世界模型、数据集与人形机器人基础模型，读者可据此判断物理 AI 开发可用的工具链起点。
Hugging Face Blog精选AI 评分8080 Google 发布 Gemma 3 开源模型：多模态、多语言、128k 上下文
Google 发布 Gemma 3 系列开放权重模型，提供 1B、4B、12B、27B 四种规模，含预训练与指令微调版本。4B、12B、27B 支持图像与文本输入及 140 多种语言，上下文窗口从 Gemma 2 的 8k 提升至 128k，1B 版本为纯文本、32k 上下文。
推荐理由：梳理 Gemma 3 的四种规模、多模态与 128k 上下文改动，并给出 transformers、MLX、llama.cpp 的落地路径。
Hugging Face Blog精选AI 评分6262 Open R1 更新第三期：发布 CodeForces-CoTs 数据集、IOI 基准与 OlympicCoder 模型
Hugging Face 的 Open R1 项目发布第三期更新，聚焦复现 DeepSeek-R1 配方中的竞赛编程代码推理部分。
推荐理由：Open R1 公开了 CodeForces-CoTs 数据集、IOI 基准与 OlympicCoder 模型，并给出五条蒸馏训练经验，可迁移到自己的代码推理训练流程。
Hugging Face Blog精选AI 评分7070 Hugging Face 与 Yaak 发布 L2D：全球最大开源自动驾驶数据集
Hugging Face 的 LeRobot 团队与 Yaak 联合发布 L2D（Learning to Drive），称其为全球最大的开源自动驾驶数据集，包含 90+ TB 多模态数据、5000+ 小时驾驶记录，来自德国 30 座城市的 60 辆驾校车辆。
推荐理由：L2D 以 90TB 多模态驾驶数据补齐端到端自动驾驶训练集缺口，并直接接入 LeRobot 训练管线。
Hugging Face BlogAI 评分3434 如何在手机上通过 React Native 本地运行 LLM：Hugging Face 边缘推理指南
Hugging Face 发布教程，演示如何用 React Native 和 llama.rn（llama.cpp 的绑定）构建 Android/iOS 应用，从 Hugging Face hub 下载 GGUF 模型并在设备本地离线运行。
Hugging Face Blog精选AI 评分6262 Cohere For AI 发布 Aya Vision 8B 与 32B 多语言视觉语言模型
Cohere For AI 发布 Aya Vision 系列 8B 和 32B 参数视觉语言模型，覆盖 23 种语言，并以开放权重形式发布。
推荐理由：官方披露了 8B 与 32B 两个开源权重的多语言视觉语言模型，并给出与更大规模模型的对比胜率，便于判断小参数多模态模型的当前水位。
Hugging Face BlogAI 评分3838 Hugging Face 与 JFrog 合作提升 AI 模型安全透明度
Hugging Face 宣布与 JFrog 合作，将 JFrog 扫描器集成到 Hugging Face Hub，用于检测模型权重中的恶意代码。相比仅对模块名做模式匹配的 picklescan，JFrog 会解析并分析模型权重中的代码，以减少误报。所有公开模型仓库在推送文件后将自动被扫描，目前已扫描数亿个文件。
Hugging Face BlogAI 评分2828 用 Arize Phoenix 追踪与评估你的 Agent
Hugging Face 博客介绍如何用 Arize Phoenix 为 smolagents 构建的 Agent 做追踪与评估，通过 OpenTelemetry 和 OpenInference 自动捕获每次 Agent 调用。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 FastRTC：面向 Python 的实时通信库
Hugging Face 发布 FastRTC，一个用 Python 构建实时音频和视频 AI 应用的实时通信库。它内置自动语音检测与轮次切换、WebRTC 版 Gradio UI、WebSocket 支持，并可通过 fastphone() 获取免费电话号码接入音频流。库还提供语音转文字、文字转语音和停用词检测等工具，可挂载到任意 FastAPI 应用部署。
推荐理由：FastRTC 把 WebRTC 实时音视频通信封装成 Python 库，读者可据此判断实时语音应用的搭建门槛变化。
Hugging Face BlogAI 评分3838 Hugging Face 推出 Remote VAE：用 Inference Endpoints 远程解码
Hugging Face Diffusers 团队实验性推出 Remote VAE，将扩散模型的 VAE 解码过程委托给远程 Inference Endpoints，以降低高分辨率图像和视频生成对消费级 GPU 的显存压力。
Hugging Face Blog精选AI 评分6262 Google 发布 SigLIP 2 多语言视觉语言编码器
Google 发布 SigLIP 2 系列多语言视觉语言编码器，在 SigLIP 的 sigmoid loss 基础上加入解码器、自蒸馏 Global-Local loss 与 Masked Prediction loss 等训练目标。
推荐理由：梳理 SigLIP 2 相比 SigLIP 新增的训练目标与 naflex 动态分辨率变体，便于理解视觉编码器的演进方向。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLM2 视频理解模型，含 2.2B、500M 和 256M 三个版本
Hugging Face 发布 SmolVLM2 系列视频理解模型，提供 2.2B、500M 和 256M 三种参数规模，并称 500M 与 256M 是迄今最小的视频语言模型。
推荐理由：官方给出三种参数规模与 Video-MME 表现，可据此判断小模型端侧视频理解的实际可用边界。
Hugging Face BlogAI 评分4040 Google 发布 PaliGemma 2 Mix 指令视觉语言模型
Google 发布 PaliGemma 2 Mix，这是基于 SigLIP 和 Gemma 2 的 PaliGemma 2 视觉语言模型系列的微调版本，覆盖 OCR、长短图像描述、视觉问答、目标检测与图像分割等任务。模型提供 3B、10B、28B 三种参数规模和 224、448、896 三种分辨率，支持 HF Transformers 与 JAX 框架，并已上线演示。
Hugging Face BlogAI 评分2222 Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商，支持 DeepSeek-R1、Flux.1 等模型，并已集成 JS 和 Python 客户端 SDK。用户可在账户设置中配置自有 API key 直连提供商，或经 HF 路由计费；PRO 用户每月获 2 美元推理额度。
Hugging Face Blog精选AI 评分6262 Hugging Face 用 Math-Verify 重评 Open LLM Leaderboard 全部 3751 个模型
Hugging Face 用 Math-Verify 重新评测了 Open LLM Leaderboard 上提交过的全部 3751 个模型，替换掉此前无法正确解析答案格式、SymPy 表达式和等价比较的旧评测器。
推荐理由：官方复盘了旧数学评测的解析缺陷，并给出重评后榜单变化，可据此理解基准分数差异的来源。
Hugging Face BlogAI 评分5858 Hugging Face 开源 xet-core 与 hf_xet，用块级聚合加速 Hub 上传下载
Hugging Face 的 Xet 团队开源了 xet-core 和与 huggingface_hub 集成的 hf_xet，用 Rust 实现基于内容分块的上传下载方案，部分场景提速 2-3 倍。
Hugging Face Blog精选AI 评分6262 Open R1 发布 OpenR1-Math-220k 数学推理数据集
Hugging Face 的 Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k，用 DeepSeek R1 为 NuminaMath 1.5 的 40 万道题各生成两个答案，共 80 万条推理轨迹，经 Math Verify 与 Llama3.3-70B-Instruct 过滤后保留 22 万道题。
推荐理由：Open R1 项目公开了 220k 数学推理数据集的生成与过滤流程，读者可参考其本地推理与验证方法。
Hugging Face BlogAI 评分3131 Hugging Face 发布 Open Arabic LLM Leaderboard 2
Hugging Face 联合 2A2I、TII 推出 Open Arabic LLM Leaderboard 2，升级阿拉伯语大模型评测平台。初版 OALL 上线不到 7 个月吸引超 46,000 名访客，收到 180 多个机构提交的 700 多个模型，参数规模从 1B 到 70B 以上。新版回应社区对阿拉伯语专项任务直接评测、基准透明度和方言多样性数据集的诉求。
Hugging Face Blog精选AI 评分6666 Hugging Face 开源 DeepResearch 复现框架，GAIA 验证集达 55.15%
Hugging Face 在 24 小时复现冲刺中开源了 DeepResearch 的智能体框架，在 GAIA 验证集上取得 55.15% 的成绩，高于此前开源框架 Magentic-One 的约 46%。
推荐理由：Hugging Face 用 24 小时复现 OpenAI Deep Research 并开源框架，给出了 GAIA 上的具体分数与代码智能体的对比数据。
Hugging Face Blog精选AI 评分6262 Open-R1 首周进展：复现 DeepSeek-R1 评测与合成数据管线
Hugging Face 的 Open-R1 项目发布首周进展，已能在 MATH-500 上复现 DeepSeek-R1 蒸馏系列模型的报告分数，并搭建了公开评测榜单。
推荐理由：Hugging Face 公开了复现 DeepSeek-R1 评测与合成数据管线的首周进展，可据此了解开源复现路线的实际难点。
Hugging Face Blog精选AI 评分6262 Mini-R1：用 GRPO 和 Countdown Game 复现 DeepSeek R1 的 aha moment
Hugging Face 博客发布 Mini-R1 教程，用 GRPO 和 Countdown Game 在 Qwen2.5-3B-Instruct 上复现 DeepSeek R1 的 aha moment。
推荐理由：完整复现流程与训练观察记录，可看到小模型在 GRPO 下从文字推理转向程序化求解的过程。
Hugging Face BlogAI 评分2020 Hugging Face 发布 AI 艺术工具通讯第一期：回顾 2024 与展望 2025
Hugging Face 推出 AI 艺术工具月度通讯第一期，回顾 2024 年创意 AI 领域的关键进展。
Mistral AI精选AI 评分7878 Mistral AI 发布 24B 参数模型 Mistral Small 3，Apache 2.0 开源
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可证开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出量化后单卡本地部署的具体条件。