微软研究：将物理 AI 推理卸载到边缘或云端可提升机器人性能与续航
微软研究院发布针对物理 AI 机器人推理基础设施的系统性研究，指出把推理全部放在机载 GPU 上会限制机器人性能、续航与扩展性，卸载到边缘或云端 GPU 则有明显收益。
推荐理由：微软对机器人推理负载的系统性测量显示，把推理从机载 GPU 卸载到边缘或云端可同时改善任务成功率与续航。
#部署/工程
#部署/工程
今日 9 条Microsoft Research精选AI 评分6262 Google DeepMind精选AI 评分6262 Google DeepMind 为 Private AI Compute 引入安全服务端记忆
Google DeepMind 公布 Private AI Compute 的新技术能力，将持久化服务端记忆引入该平台，使 AI 助手能在多设备间保留上下文，同时维持接近端侧的隐私标准。
推荐理由：Google 公开了云端持久记忆的加密与验证机制，可据此了解跨设备 AI 记忆如何兼顾隐私。
Simon WillisonAI 评分1818 Simon Willison 发布 llm 0.36
Simon Willison 发布 llm 0.36。该版本于 9 月 22 日发布，属于其 llm 命令行工具的新版本更新。
NVIDIA Blog精选AI 评分6262 NVIDIA 发布 Isaac ROS 5.0，推进智能体化开源机器人开发
NVIDIA 在加拿大多伦多 ROSCon 大会上发布 Isaac ROS 5.0，这是一套基于 ROS 的 GPU 加速软件包集合，新增智能体工作流与平台支持，免费开源并已在 GitHub 提供。
推荐理由：Isaac ROS 5.0 把智能体工作流引入机器人开发，并列出多家厂商的落地方式，可据此判断开源机器人栈的演进方向。
Hugging Face Blog精选AI 评分6262 Transformers 现已支持运行 llama.cpp 的 GGUF 量化模型
Hugging Face 在 transformers 中加入 GGUF 支持，用户可从 Hub 选取量化检查点，通过 from_pretrained 传入 gguf_file 在本地生成，无需额外配置。
推荐理由：Hugging Face 官方说明 transformers 如何直接加载 GGUF 量化权重，并给出与 llama.cpp 的性能对比和当前限制。
Simon WillisonAI 评分6666 TypeSafe AI 发布 Jev，推出只输出概率决策的 System One 模型
TypeSafe AI 发布 Jev，这是其称为 System One 模型的新类别，输入文本后不返回文本，而是返回对应类别、是/否问题、评分的浮点数及置信度。
NVIDIA BlogAI 评分2222 NVIDIA 推出 DSX Ready 认证计划，为 AI 工厂筛选供电与冷却产品
NVIDIA 推出 DSX Ready 认证计划，用于评估合作伙伴产品是否符合 NVIDIA DSX AI 工厂参考设计要求，首批覆盖电池储能系统（BESS）和冷却分配单元（CDU）两类。
NVIDIA BlogAI 评分2626 NVIDIA 为何称规模化部署物理 AI 需要全栈安全
NVIDIA 发布 Halos，称其为首个也是唯一面向物理 AI 的全栈安全系统，覆盖设计、验证与部署各层。
NVIDIA BlogAI 评分2222 NVIDIA 埃及 AI 生态进入规模化生产阶段
NVIDIA 在开罗大埃及博物馆举办活动，展示埃及 AI 生态从能力建设走向规模化落地，其 Deep Learning Institute 埃及学员规模一年增长超十倍。
NVIDIA BlogAI 评分3636 NVIDIA 谈 AI 安全：如何在智能体栈的每一层解决这一工程问题
NVIDIA 提出 AI 安全是工程问题，需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体之外强制执行策略并提供沙箱执行，Cisco DefenseClaw 在其上增加治理层，JFrog 则集成 OpenShell 扫描并验证智能体技能。
NVIDIA BlogAI 评分2121 NVIDIA 在纽约气候周展示 5 家用 AI 推进清洁能源的公司
NVIDIA 在纽约气候周上介绍了 5 家用 AI 推进清洁能源的公司：ThinkLabs AI 用数字孪生和智能体把南加州爱迪生评估每份电网并网申请的时间从 30-45 天缩短到 2 分钟。
Hugging Face BlogAI 评分4848 Hugging Face tokenizers v1 发布：编码解码与扩展性能实测
Hugging Face 发布 tokenizers v1，输出与 v0.23 完全一致的 token ID，速度常达 v0.23 的数十倍。
NVIDIA BlogAI 评分88 Aniimo 等 11 款游戏本周加入 GeForce NOW，007 First Light 获路径追踪更新
Pawprint Studio 的开放世界捉宠 RPG《Aniimo》首发即登陆 GeForce NOW，玩家无需等待 45GB 下载即可在 Steam Deck 和新增支持的 Firefox 浏览器上串流游玩。
GitHub Blog · AI & ML精选AI 评分6767 GitHub 用 Copilot 把 Copilot 运行时迁移到 Rust
GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行生产 Rust，代码主要由 AI 智能体编写，分布在 128 个合入 main 的 PR 中并逐步发布。
推荐理由：作者以亲历者身份给出把 80 万行运行时迁到 Rust 的完整数据，可看到智能体协作与人工把关的实际分工。
NVIDIA Blog精选AI 评分6262 NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1 并取得领先性能
NVIDIA 在 MLPerf Inference v6.1 首次提交 Vera Rubin NVL72 预览结果，在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍，在 DeepSeek-R1 上最高达 2.5 倍。
推荐理由：MLPerf v6.1 首次提交数据给出 Vera Rubin NVL72 相对 GB300 的吞吐倍数与 99% 扩展效率，可作推理基础设施选型的量化参照。
Mistral AIAI 评分3434 Cloudera 与 Mistral 达成合作，将主权 AI 引入企业数据平台
Cloudera 与 Mistral 宣布合作，将 Mistral 模型集成进 Cloudera 混合数据平台，企业可在私有云、公有云、本地及完全气隙环境中部署推理并保持完全控制。合作还支持企业用专有数据在受控环境中训练自有模型，覆盖 Cloudera 平台上 30 exabytes 的客户管理数据。
Hugging Face BlogAI 评分3434 用 LoRA 在 Hugging Face Jobs 上跑异步 GRPO：一个 Bucket、一个代理，不用 NCCL
TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM，rank-1 adapter 仅几 MB，可通过挂载到各 Job 的 Storage Bucket 传输，无需 NCCL。
Mistral AI精选AI 评分6767 Mistral 完成 30 亿欧元 D 轮融资，估值超 210 亿欧元
Mistral 宣布完成 30 亿欧元 D 轮融资，投后估值超过 210 亿欧元，由三星电子领投，Scaleup Europe Fund 与 PSG Equity 联合领投。公司称这是欧洲科技企业完成的最大规模股权融资，资金将用于扩展前沿研究、算力与商业增长。Mistral 目前业务覆盖 20 个国家，服务 125 家以上全球企业，包括 Airbus、ASML 和 HSBC。
推荐理由：Mistral 完成欧洲最大股权融资，读者可了解其主权开源全栈路线与投资方结构。
GitHub Blog · AI & ML精选AI 评分7171 GitHub 推出 Project HydraFusion：用多模型编排实现前沿质量
GitHub 发布研究预览 Project HydraFusion，在 GitHub Copilot CLI 中通过运行时编排多个提供商的模型，自动选择 Single、Cascade、Critique 三种执行模式来平衡质量、成本与延迟。
推荐理由：GitHub 官方给出 HydraFusion 的三种编排模式与三个基准上的质量成本对照，可据此判断多模型编排在编码任务中的取舍。
Hugging Face BlogAI 评分4242 Hugging Face 发布 NeoMME：260M 与 800M 多语言多模态编码器
Hugging Face 推出 NeoMME 系列多语言多模态编码器，含 260M 和 800M 两个规模，用单个双向 Transformer 同时处理文本 token 与 32×32 图像 patch，无需独立视觉塔或因果语言模型。
Hugging Face BlogAI 评分5858 Hugging Face 发布 @huggingface/kernels：207 个 WebGPU kernel 与 Fleet 基准工具
Hugging Face 发布 @huggingface/kernels，一个从 Hub 加载并运行优化 WebGPU kernel 的 JavaScript 库，同时上线 207 个 Apache-2.0 许可的 kernel，每个都以独立仓库形式发布，包含 manifest、正确性用例、基准用例和 WGSL 着色器模板。
Hugging Face Blog精选AI 评分6666 Gradio 推出 gr.Workflow，把 AI 流水线做成可拖拽画布并自动生成 API
Gradio 内置的 gr.Workflow 把多步 AI 流水线描述为带类型节点的图，Gradio 会提供一个拖拽画布，每个节点可运行、每个中间结果可见。同一张图同时是 REST API，每个输出按标签生成独立端点，并支持一条命令部署到 Hugging Face Spaces。
推荐理由：Gradio 把多步 AI 流水线做成可拖拽的图，并自动暴露 REST 接口，读者可据此判断现有 Python 拼接流程的改造成本。
Mistral AIAI 评分3939 Mistral 与 HUMAIN 达成战略合作，推进沙特及中东主权 AI
Mistral 与 HUMAIN 宣布战略合作，覆盖 AI 基础设施、先进模型开发与 AI 解决方案部署，初期聚焦网络安全和语音，并计划开发阿拉伯语表现强劲的前沿模型。合作规模达数亿欧元，Mistral 将探索使用 HUMAIN 数据中心基础设施，双方还将在沙特面向受监管行业制定联合市场策略。
Hugging Face BlogAI 评分3434 Hugging Face Inference Endpoints、Jobs 与 Buckets 如何支撑 Papers with Code 搜索
Papers with Code 采用混合搜索系统，用 PostgreSQL 全文检索加 pgvector 向量召回，并通过 RRF 融合两路结果。
Hugging Face Blog精选AI 评分6262 Liquid AI 发布 LFM2.5-DSpark 草稿模型，推理最高提速 3.2 倍
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下提升吞吐，GPU 上最高 3.18 倍、端侧最高 2.87 倍。
推荐理由：Liquid AI 给出三个 LFM2.5 模型的 DSpark 草稿模型与 H100、MacBook 实测吞吐数据，可据此判断投机解码在端侧与 GPU 上的实际收益。
Hugging Face BlogAI 评分3232 Hugging Face 推出约束感知 GPU 分配器：同集群利用率最高提升 33 个百分点
Hugging Face 构建了一个约束感知的 GPU 分配器，在七个基准场景中与 FIFO 调度器对比，相同硬件和负载下 GPU 利用率最高提升 33 个百分点，优先级加权产出在每个场景均有提升，最高达 105%。
Hugging Face BlogAI 评分4040 ALTK-Evolve 对比 ACE：用更少 Token 实现更强的智能体记忆
Hugging Face 的 ALTK-Evolve 与 ACE 同为无需权重更新的智能体记忆方案，但前者按任务检索少量高支持度 guideline，而非每步注入完整 playbook。
Mistral AI精选AI 评分6262 Mistral 推出区域推理端点与优先服务层，并接入第三方开源模型
Mistral 宣布三项推进 AI 主权的举措：Mistral Regional Endpoints 正式可用，客户可选择推理在欧洲或美国运行；Mistral Priority Tier 进入公开预览，为关键业务负载提供自定义速率限制和带 SLA 的可用性承诺。
推荐理由：Mistral 把区域推理、SLA 保障和第三方开源模型接入放进同一套基础设施，读者可据此判断企业级部署的合规与算力选项。
Hugging Face Blog精选AI 评分6262 NVIDIA 发布 Magpie TTS 多语言开源权重模型，新增阿拉伯语、韩语和巴西葡萄牙语
NVIDIA 发布 Magpie TTS Multilingual，一个 364M 参数的开源权重语音合成模型，支持 12 种语言，新增现代标准阿拉伯语、韩语和巴西葡萄牙语，并通过更新训练数据提升了多种既有语言的质量。
推荐理由：原文给出 364M 开源权重模型的多语言覆盖与 TTFA 实测数据，可据此判断自建语音链路的延迟与部署方式。
Hugging Face BlogAI 评分4444 Hugging Face 提出离线 Top-K Logits 与融合分块 KL 损失，大幅降低 LLM 知识蒸馏成本
Hugging Face 论文提出两项系统改动降低 LLM 知识蒸馏成本：离线缓存教师模型每位置的 top-100 logits，使教师无需与学生同时驻留显存；融合分块 KL 损失避免生成完整的词表×序列长度矩阵。以 gpt-oss-120b 为例，稠密 KL 峰值约 250GB，超过单张 H200 的 141GB，融合分块方案峰值约 128GB，使长上下文修复可在单 GPU 上完成。
Hugging Face BlogAI 评分2222 Baseten 成为 Hugging Face Inference Providers 支持厂商
Baseten 正式加入 Hugging Face Hub 的 Inference Providers 生态，首批支持对话与文本生成任务，可调用 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开放权重模型。
Hugging Face BlogAI 评分2222 GPU 管理：为什么闲置 GPU 是新的停飞飞机
Hugging Face 博客指出，AI 的下一个真正约束是 GPU 利用率而非智能本身。GPU 按日历小时计费，产出却只按计算小时累积，两家 GPU 预算相当的公司会因利用率差异而拉开差距。企业自购 GPU 本地部署可把按 token 线性增长的 API 成本换成固定资本支出，但集群上线后的问题变成如何让它们保持忙碌。
Berkeley AI Research精选AI 评分6262 从 CUDA 到 MLX：K-Search 如何把内核优化经验带到 Apple Silicon
Berkeley Sky Lab 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX 后端，通过结构化 CUDA-to-MLX 翻译层把已有 CUDA 内核知识迁移到 Apple Silicon。
推荐理由：K-Search 把 CUDA 内核经验迁移到 Apple Silicon，读者可看到跨平台内核优化的具体方法与实测数字。
Hugging Face BlogAI 评分5151 NVIDIA 发布 Cosmos-H-Dreams 实时手术机器人生成式模拟器
NVIDIA 发布 Cosmos-H-Dreams，一个面向手术机器人的实时、动作条件生成式模拟器，将 Cosmos-H-Surgical-Simulator 蒸馏为因果少步学生模型，并通过 FlashDreams 推理库提供服务。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 Nunchaku 4-bit 扩散推理接入 Diffusers
Hugging Face 在 Diffusers 中引入 Nunchaku Lite，可直接用 from_pretrained() 加载 Nunchaku 风格的 4-bit 量化检查点，无需自定义 pipeline 或本地 CUDA 编译。
推荐理由：原文给出 Nunchaku Lite 在 Diffusers 中的加载方式与实测数据，读者可据此判断 4-bit 扩散推理的显存与速度取舍。
Hugging Face BlogAI 评分4343 模型路由并不简单：从分类问题到系统优化问题
在 AppWorld Test Challenge 的 417 个任务上，同一 CodeAct 智能体下 Claude Sonnet 4.6 总成本 79 美元（0.19 美元/任务），GPT-4.1 却要 155 美元（0.37 美元/任务），尽管后者 token 单价更低——缓存命中率才是关键。
Hugging Face BlogAI 评分2828 PyTorch 性能分析（第三部分）：Attention 的 profile 全解析
Hugging Face 博客发布《Profiling in PyTorch》系列第三部分，用 NVIDIA A100-SXM4-80GB 对 attention 做 profile 分析。文章对比朴素 attention 与 in-place 版本，发现把 masked_fill 换成 masked_fill_ 后，每次前向传播可省去一个 Memcpy kernel。
Mistral AIAI 评分3838 Mistral Studio 为 Prompts 和 Skills 提供版本管理系统
Mistral Studio 现已上线 Prompts 和 Skills 管理功能，为每个提示词和技能提供版本记录、明确归属和可追溯性。每个版本不可篡改，支持对比、回滚和审计日志，并可通过标签区分 Production 与 Staging。资产可通过 MCP server 直接调用，确保生产环境运行的是受治理的同一版本，数据保留在企业边界内。
Hugging Face Blog精选AI 评分6262 vLLM 的 transformers 建模后端实现原生推理速度
Hugging Face 宣布 vLLM 的 transformers 建模后端在多个 LLM 架构上达到甚至超过 vLLM 手写原生实现的吞吐。该后端通过 torch.fx 做静态图分析、用 ast 重写源码，在运行时动态应用推理相关的层融合，从而匹配自定义实现的性能。
推荐理由：原文给出 transformers 后端在 vLLM 中达到原生速度的实测对比与启用方式，读者可据此判断是否省去自定义移植。
Hugging Face BlogAI 评分2525 Hugging Face 与 Amazon SageMaker AI 打通一键直达 SageMaker Studio
Hugging Face 与 Amazon SageMaker AI 推出深度链接集成，用户在支持的模型页点击 Customize on SageMaker AI 或 Deploy on SageMaker AI，即可一键进入 SageMaker Studio，模型已预加载、环境自动配置。