Hugging Face 将 Hub 存储从 Git LFS 迁移到 Xet
Hugging Face 宣布 Hub 存储从 Git LFS 迁移到 Xet，6 个月内已有 50 万个仓库、20 PB 数据完成迁移，超过 100 万用户在用 Xet，5 月起成为新用户和组织的默认选项。
推荐理由：官方复盘 Hub 从 Git LFS 迁移到 Xet 的工程细节，可看到大规模存储迁移如何做到对用户零打扰。
部署工程
全部主题把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
最新精选
第 81–100 条 · 共 134 条Hugging Face Blog精选AI 评分6262
Mistral AI精选AI 评分6262 Mistral AI 推出 Mistral Compute AI 基础设施服务
Mistral AI 发布 Mistral Compute，提供包含 GPU、编排、API 与服务的私有集成栈，形态从裸金属服务器到全托管 PaaS。该服务将搭载 NVIDIA 参考架构，可提供数万块 GPU，并包含用于区域和行业特定 AI 的训练套件。Mistral 称其面向欧洲、中东、亚洲及南半球等寻求美国或中国云厂商替代方案的机构，强调数据主权与脱碳能源。
推荐理由：Mistral 从模型厂商延伸到自有 AI 基础设施，读者可据此判断欧洲主权算力供给的另一种路径。
Hugging Face Blog精选AI 评分6060 Hugging Face 与 NVIDIA 合作推出 Training Cluster as a Service
Hugging Face 在 GTC Paris 宣布与 NVIDIA 合作推出 Training Cluster as a Service，让全球研究机构更容易获取大型 GPU 集群，按训练时长付费。
推荐理由：Hugging Face 与 NVIDIA 把 GPU 集群申请、调度和训练工具串成一条流程，读者可据此判断中小研究团队获取算力的门槛变化。
Mistral AI精选AI 评分6060 Mistral 发布企业级 AI 编码助手 Mistral Code
Mistral 发布企业级 AI 编码助手 Mistral Code，整合 Codestral、Codestral Embed、Devstral 和 Mistral Medium 四个模型，提供 IDE 插件、本地部署选项和企业管理工具，基于开源项目 Continue 构建。
推荐理由：Mistral 把模型、IDE 插件与企业管控打包成一套可私有部署的编码方案，读者可据此判断企业级 AI 编码的落地路径。
Hugging Face Blog精选AI 评分6262 TRL 支持 vLLM 与 GRPO 训练同卡共置
TRL 通过 PR #3394 支持 vLLM 的 external launcher，让推理与 GRPO 训练在同一批 GPU 上共置运行，不再需要单独的 vLLM 服务器进程。
推荐理由：TRL 把 vLLM 从独立推理服务改为与训练同卡共置，读者可据此判断 GRPO 训练的显存与吞吐取舍。
Mistral AI精选AI 评分6060 Mistral AI 发布代码嵌入模型 Codestral Embed
Mistral AI 发布首个专为代码设计的嵌入模型 Codestral Embed，官方称其在真实代码检索任务上显著优于 Voyage Code 3、Cohere Embed v4.0 和 OpenAI 的大型嵌入模型。
推荐理由：官方给出代码嵌入模型在检索任务上的对比与维度精度取舍，可据此评估代码 RAG 的存储成本。
Mistral AI精选AI 评分7171 Mistral 发布 Agents API，内置连接器与多智能体编排
Mistral 发布 Agents API，将自家语言模型与代码执行、网页搜索、图像生成、MCP 工具等内置连接器结合，并提供跨对话的持久记忆和智能体编排能力。
推荐理由：官方给出 Agents API 的连接器、记忆与多智能体编排能力，读者可据此判断企业级智能体平台的搭建方式。
OpenAI News精选AI 评分6060 OpenAI 推出 Stargate UAE，Stargate 首次海外部署
OpenAI 宣布推出 Stargate UAE，这是其 AI 基础设施平台 Stargate 的首次国际部署。
推荐理由：OpenAI 官方公布 Stargate 首次落地海外，读者可据此了解其 AI 基础设施的国际化布局。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Transformers 定位为跨框架模型定义标准
Hugging Face 宣布将 Transformers 打造为跨框架的模型定义中枢，模型架构只要被 Transformers 支持，就能在生态其他工具中获得支持。目前 Transformers 已支持 300+ 模型架构，平均每周新增约 3 个，并与 vLLM、SGLang、TGI 等推理引擎及 llama.cpp、MLX 打通互操作。官方还计划简化建模代码、弃用冗余组件，降低社区贡献门槛。
推荐理由：Hugging Face 官方说明 Transformers 将作为跨框架的模型定义中枢，读者可据此理解模型一次贡献、多引擎复用的生态走向。
Mistral AI精选AI 评分6262 Mistral 推出 Le Chat Enterprise，由 Mistral Medium 3 驱动
Mistral 发布 Le Chat Enterprise，一款由全新 Mistral Medium 3 模型驱动的企业级 AI 助手，提供企业搜索、Agent 构建器、自定义数据与工具连接器、文档库、自定义模型和混合部署等功能，全部功能将在未来两周内逐步上线。
推荐理由：Mistral 把企业搜索、Agent 构建与混合部署打包进同一平台，可据此判断企业级 AI 助手的集成路径。
Mistral AI精选AI 评分7171 Mistral AI 发布 Mistral Medium 3，主打低成本企业级部署
Mistral AI 发布 Mistral Medium 3，称其在多项基准上达到 Claude Sonnet 3.7 的 90% 或以上，价格为每百万 token 输入 0.4 美元、输出 2 美元。
推荐理由：官方给出 Mistral Medium 3 的定价、对标模型与部署门槛，可据此判断企业选型的成本与落地条件。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Xet 存储上线 Hub，首批仓库从 LFS 迁移
Hugging Face 的 Xet 团队将首批 Model 和 Dataset 仓库从 LFS 迁移到 Xet 存储，迁移了 4.5 TB 数据，约 6% 的 Hub 下载流量转到 Xet 基础设施。
推荐理由：Hugging Face 官方复盘 Xet 存储首次迁移，给出块级去重带来的上传下载变化与迁移中的工程取舍。
Mistral AI精选AI 评分7777 Mistral AI 发布文档理解 API Mistral OCR
Mistral AI 发布光学字符识别 API Mistral OCR，可接收图片和 PDF，按顺序交错提取文本与图像，并已作为 Le Chat 文档理解的默认模型。
推荐理由：官方给出 Mistral OCR 的定价、基准对比与自托管选项，可据此判断它在文档解析与 RAG 流程中的位置。
Mistral AI精选AI 评分6060 Mistral 发布区域语言模型 Mistral Saba
Mistral AI 发布 Mistral Saba，这是其首个专门面向区域语言的模型，参数规模 24B，训练数据来自中东和南亚。该模型支持阿拉伯语和多种印度源语言，在泰米尔语等南印度语言上表现突出，官方称其回答比规模大 5 倍以上的模型更准确，同时速度更快、成本更低。
推荐理由：Mistral 推出面向中东和南亚的区域语言模型，读者可了解其参数规模、语言覆盖与本地部署方式。
Mistral AI精选AI 评分7878 Mistral AI 发布 24B 参数模型 Mistral Small 3，Apache 2.0 开源
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可证开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出量化后单卡本地部署的具体条件。
OpenAI News精选AI 评分6262 OpenAI 宣布 Stargate 项目
OpenAI 官方发布公告，宣布 Stargate 项目。公告未提供更多细节，仅给出项目名称与发布动作。
推荐理由：OpenAI 官方宣布 Stargate 项目，读者可据此了解其自建 AI 基础设施的布局方向。
Hugging Face Blog精选AI 评分6262 如何在 PyTorch 中可视化并理解 GPU 显存占用
Hugging Face 博客给出用 torch.cuda.memory._record_memory_history 记录并可视化 PyTorch 训练 GPU 显存占用的完整教程，可在 pytorch.org/memory_viz 拖入 profile.pkl 查看内存曲线。
推荐理由：用 PyTorch 内存快照逐段拆解训练显存构成，并给出可套用的估算公式与工具。
Hugging Face Blog精选AI 评分6262 Universal Assisted Generation：用任意助手模型加速解码
Intel Labs 与 Hugging Face 提出 Universal Assisted Generation（UAG），让目标模型与助手模型不再需要共享 tokenizer，可跨模型家族配对。
推荐理由：Intel Labs 与 Hugging Face 提出的跨 tokenizer 推测解码方法，给出了可对照的加速数据和 Transformers 调用方式。
Hugging Face Blog精选AI 评分6060 Hugging Face 推出 HUGS 生成式 AI 服务，零配置部署开源模型
Hugging Face 发布生成式 AI 服务 HUGS，提供零配置的优化推理微服务，基于 Text Generation Inference 和 Transformers，支持 NVIDIA、AMD GPU，AWS Inferentia 和 Google TPU 即将支持。
推荐理由：HUGS 把开源模型的推理部署从数周压缩到分钟级，并给出兼容 OpenAI API 的落地路径，可据此判断自托管开源模型的工程成本。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Gradio 5 稳定版
Hugging Face 发布 Gradio 5 稳定版，开发者可用几行 Python 构建生产级机器学习 Web 应用，通过 pip install --upgrade gradio 升级。
推荐理由：官方列出 Gradio 5 在 SSR 加载、流式与安全上的具体改动，可据此判断现有应用的迁移成本。