NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 DGX Spark 64GB 统一内存版本，10 月 23 日开售，起售价 4,999 美元，保留 GB10 Grace Blackwell 超级芯片、DGX OS 与完整 NVIDIA AI 软件栈，支持最高 1000 亿参数模型在设备本地运行。
推荐理由：原文给出 64GB 版本的售价、上市时间与双机集群的实测加速比，可据此判断本地跑大模型的成本与扩展方式。
Liquid AI 发布实验性 DSpark 草稿模型 LFM2.5-VL-DSpark，为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径，解码最高提速 3.13x（端侧）和 2.66x（H100），端到端最高提升 2.62x 和 2.27x。该草稿模型约 280M 参数，仅使部署模型参数量增加 8.9%，并首日支持 llama.cpp、MLX-VLM 和 SGLang。
oMLX 作者兼维护者 Jun Kim 加入 Hugging Face，全职投入 MLX 社区建设。oMLX 将保持 Apache 2.0 开源，由 Jun 继续领导，从副业转为有资金支持的长期项目，目标是提升稳定性并加快开发。Hugging Face 希望 oMLX 成为新想法的试验场，并推动 transformers 模型定义更快落地为可供各引擎使用的 MLX 参考实现。
Hugging Face 在 transformers 中加入 GGUF 支持，用户可从 Hub 选取量化检查点，通过 from_pretrained 传入 gguf_file 在本地生成，无需额外配置。
推荐理由：Hugging Face 官方说明 transformers 如何直接加载 GGUF 量化权重，并给出与 llama.cpp 的性能对比和当前限制。
Google DeepMind 发布大规模多语言手语转文本模型 SL2T，可将手语直接翻译为流式文本，首个支持场景为美国手语（ASL）转英文。该模型基于超过 50 种手语、逾 10 万小时数据训练，其中约四分之一为 ASL 数据，在 FLEURS-ASL（sd-test）上取得 70 BLEURT 的零样本成绩。
推荐理由：官方披露了 SL2T 的训练规模、手语翻译难点与端侧隐私方案，可了解手语 AI 从实验室走向消费产品的路径。
Google Research 联合 Google DeepMind 提出 SensorFM，一个直接从无标注可穿戴数据学习的大型传感器基础模型，预训练语料来自五百万名同意参与者、超过一万亿分钟的多模态信号，覆盖 100 多个国家、50 个美国州和 20 多种 Fitbit 与 Pixel Watch 设备。
推荐理由：Google 用五百万人的万亿分钟可穿戴数据训练通用生理表征，读者可了解其自监督缺失感知设计与跨任务泛化表现。
Mistral AI 发布首个具身导航模型 Robostral Navigate，这是一个 8B 模型，仅用单个普通 RGB 相机、无需 LiDAR 或深度传感器，在 R2R-CE validation unseen 上达到 76.6% 成功率，比最佳单相机方案高 9.7 个百分点、比使用深度或多相机的最佳系统高 4.5 个百分点。
推荐理由：官方给出单目 RGB 相机在 R2R-CE 上的成绩与训练方法，可据此判断具身导航对传感器配置的要求。
Google Research 提出一种新架构，把多 Token 预测（MTP）头接到已冻结的 Gemini Nano v3 模型上，在 Pixel 9 和 10 系列上实现开箱即用的加速。
推荐理由：Google 把 MTP 头接到冻结的 Gemini Nano v3 上，读者可了解端侧推测解码如何在内存受限下提速。
Google Chrome 团队开发者关系工程师 Thomas Steiner 在 Hugging Face 博客中，试验了拟议的 Cross-Origin Storage（COS）API 如何解决 Transformers.js 的跨源缓存重复问题。
Google DeepMind 发布 Gemma 4 12B，一款面向笔记本的智能体多模态模型，介于端侧 E4B 与 26B MoE 之间，是首个支持原生音频输入的中等规模 Gemma 模型。
推荐理由：Gemma 4 12B 用无编码器架构把视觉和音频直接接入 LLM，读者可据此判断本地多模态智能体的硬件门槛。
Google Research 在 Nature 发表研究，提出 PHRM 系统，利用手机前摄在面部解锁后的数秒内拍摄视频，通过深度学习在后台估算心率和静息心率。
推荐理由：Google 用手机前摄在解锁后被动测心率，并公开迄今最大规模手机视频数据集与预训练模型。
Hcompany 发布 Holo3.1 系列 computer-use 模型，基于 Qwen 家族，覆盖 0.8B、4B、9B 和 35B-A3B 四种尺寸，并首次提供 FP8、Q4 GGUF 和 NVFP4 量化权重用于本地推理。
推荐理由：Holo3.1 给出跨环境、跨框架与本地量化的具体数据，可据此判断端侧 computer-use 智能体的部署成本。
Google 为隐私分析服务提出零信任聚合方案，将新型单次消息加密聚合协议与 TEE 结合，使设备无需多轮在线交互即可提交数据。该设计保证 Google 只能获得群体的匿名聚合洞察，原始数据即使在硬件保护范围内也不会被暴露或重建，未加密数据仅在聚合匿名化后的最终阶段于设备外处理。
Hugging Face 发布教程，讲解如何在 Manifest V3 约束下用 Transformers.js 在 Chrome 扩展中运行本地 AI 功能，并以官方发布的 Gemma 4 浏览器助手扩展为参照。
Google DeepMind 发布 Gemma 4 开源模型家族，包含 E2B、E4B、26B MoE 和 31B Dense 四个尺寸，采用 Apache 2.0 许可。
推荐理由：Gemma 4 以四个尺寸覆盖端侧到工作站，并给出 Apache 2.0 许可与首日工具支持，可据此判断本地部署与微调的选择空间。
Google DeepMind 的 Gemma 4 多模态模型家族已在 Hugging Face 发布，采用 Apache 2 许可，支持图像、文本和音频输入并生成文本。
推荐理由：Gemma 4 五档尺寸与 Apache 2 许可一并给出，读者可据此判断端侧多模态与本地部署的可行边界。
Hugging Face 博客发布 NXP 的嵌入式机器人 AI 实践指南，涵盖机器人数据集录制、VLA 策略微调（ACT 与 SmolVLA）以及端侧优化。NXP 以"把茶包放进杯子"任务为例，用 3 个摄像头（顶部、夹爪、左侧）录制 120 个 episode，并指出异步推理需让端到端延迟短于动作执行时长。指南还介绍了 NXP i.MX 95 SoC 优化后的实时性能表现。
Hugging Face 发布 Transformers.js v4，已上线 NPM，可通过 npm i @huggingface/transformers 安装。
推荐理由：官方给出 v4 的 WebGPU 运行时重写、构建提速与包体积变化，可据此判断浏览器端推理的工程收益。
Google Research 提出一种拆解式方法，让小型多模态 LLM 在设备端理解用户意图：先逐屏总结每次交互，再从摘要序列中提取意图。在移动端与网页轨迹上，该方法优于 CoT 和端到端微调，Gemini 1.5 Flash 8B 取得与 Gemini 1.5 Pro 相当的结果，成本与速度仅为后者一小部分。该论文已在 EMNLP 2025 发表。
Google 研究团队提出一种基于时序卷积网络（TCN）的多头深度学习模型，仅凭单只 Pixel Watch 的 IMU 信号和用户身高，即可直接估算步速、步长、双支撑时间等多项步态指标。在 246 名参与者、约 7 万段步行数据的验证中，手表估算与手机结果无显著差异（p>0.05），多数指标 Pearson r>0.80、ICC>0.80。
Mistral 发布 Mistral 3 系列，包括 14B、8B、3B 三个小尺寸稠密模型和迄今最强的 Mistral Large 3，后者为稀疏 MoE 架构，41B 激活参数、675B 总参数，全部以 Apache 2.0 许可开源。
推荐理由：Mistral 3 一次性开源从 3B 到 675B 的完整模型族，读者可据此了解开源模型在参数规模与部署形态上的最新覆盖范围。
AnyLanguageModel 发布，这是一个 Swift 包，可作为 Apple Foundation Models 框架的 drop-in 替代，只需把 import FoundationModels 换成 import AnyLanguageModel 即可切换模型提供方。
Google Research 介绍了一个端到端语音到语音翻译（S2ST）模型，可在原说话人音色下实时翻译，延迟仅 2 秒，而现有级联方案通常有 4–5 秒延迟并会累积误差。
推荐理由：Google 端到端语音翻译把延迟压到 2 秒并保留原说话人音色，可对照级联方案的误差累积问题。
Google Research 提出可证明隐私洞察（PPI），结合大语言模型、差分隐私（DP）和可信执行环境（TEE），在保证个体数据不可被查看、聚合结果匿名的前提下分析非结构化 GenAI 数据。
推荐理由：Google 把 LLM、差分隐私与 TEE 组合成可外部核验的隐私分析流程，读者可了解端侧 AI 数据如何在不暴露个体数据的前提下被统计。
IBM 发布 Granite 4.0 家族最小的 Granite 4.0 Nano，含 4 个 instruct 模型及对应 base 版本，参数规模从约 350M 到约 1.5B，采用 hybrid-SSM 与 Transformer 两种架构，Apache 2.0 许可并在 vLLM、llama.cpp、MLX 上原生支持。
Hugging Face 博客给出在 Intel CPU 上本地运行视觉语言模型（VLM）的三步流程：用 Optimum Intel 与 OpenVINO 将 SmolVLM2-256M-Video-Instruct 转换为 OpenVINO IR，再通过仅权重量化（INT8）或静态量化压缩模型，最后执行推理，无需 GPU。
Arm 将于 10 月 22-23 日参展 PyTorch Conference，展示基于 PyTorch 和 ExecuTorch 的 AI 应用开发与部署方案。
Hugging Face 发布三部分系列文章，讲解如何将 RedNote 的 3B 参数 OCR 模型 dots.ocr 转换到端侧运行，该模型在 OmniDocBench 上超越 Gemini 2.5 Pro。
Hugging Face 用 OpenVINO.GenAI 在 Intel Core Ultra 上加速 Qwen3-8B，以 Qwen3-0.6B 为草稿模型做投机解码，生成速度提升约 1.3×；再对草稿模型剪掉 28 层中的 6 层并用 Qwen3-8B 生成的合成数据微调，加速比进一步升至约 1.4×。
Hugging Face 的 Swift 库 swift-transformers 发布 1.0 版本，为 Apple Silicon 平台本地模型推理提供 Tokenizers、Hub、Models and Generation 组件，Tokenizers 与 Hub 升级为顶层模块。
Google 发布 EmbeddingGemma，一款面向端侧场景的多语言嵌入模型，参数量 308M，上下文窗口 2K，支持 100 多种语言，量化后内存占用低于 200MB。
推荐理由：308M 参数、2K 上下文、支持 100 多种语言，可据此判断端侧 RAG 与多语言检索的落地空间。
NVIDIA 发布 Nemotron Post-Training Dataset V2，将此前英文推理数据翻译为法语、德语、意大利语、日语和西班牙语五种语言，共 600 万多语言推理样本。
推荐理由：NVIDIA 公开了多语言推理数据集的构建流程与筛选比例，读者可据此了解后训练数据的翻译与幻觉控制方法。
Arm 与 ExecuTorch 0.7 beta 将默认启用 KleidiAI，为基于最新 Arm CPU 架构以及大量旧款手机的设备带来自动加速，Android 与跨平台开发者无需改代码即可通过 ExecuTorch 和 XNNPack 获得优化。
推荐理由：Arm 与 ExecuTorch 团队说明了 KleidiAI 默认启用后，旧款 Arm 设备也能跑起端侧 LLM 的路径与实测数据。
Arm 发布 Neural Super Sampling（NSS），一款面向图形与游戏开发者的 AI 超分方案，现已开放试用。NSS 是用于实时时序超分的参数预测模型，针对移动 GPU 中的 Neural Accelerators（NX）优化，适用于移动游戏、XR 等功耗受限场景。
Gemma 3n 从 Google I/O 的预览版转为正式发布，已在 transformers、timm、MLX、llama.cpp、transformers.js、ollama、Google AI Edge 等开源库上线。
推荐理由：Gemma 3n 正式开源并接入主流推理库，读者可据此了解端侧多模态模型的部署路径与内存优化思路。
Arm 工程师 Michael Gamble 基于 Stability AI 的 Stable Audio Open 模型，在 Arm CPU 上构建了一款完全本地运行的音效生成应用，无需 GPU 和云端推理，几秒内即可根据提示词生成 .wav 文件并直接导入 Ableton Live。
Dell 在 Dell Tech World 发布新版 Dell Enterprise Hub，提供 Meta Llama 4 Maverick、DeepSeek R1、Google Gemma 3 等模型的预测试容器，可在 NVIDIA H200、AMD MI300X 等 Dell PowerEdge 服务器上通过 Docker 和 Kubernetes 部署。
Falcon-Edge 系列发布，基于 BitNet 架构，提供 1B 和 3B 两种规模，每种规模都有 base 与指令微调版本，权重以三值格式（{-1, 0, 1}）提供。
推荐理由：Falcon-Edge 用一次预训练同时产出 bfloat16 与三值量化版本，并给出可直接微调的权重与工具包，读者可据此判断 1.58bit 模型的落地路径。
Mistral AI 发布 Mistral Small 3.1，在 Mistral Small 3 基础上提升文本性能与多模态理解，上下文窗口扩展至 128k tokens，推理速度达 150 tokens per second，采用 Apache 2.0 许可。
推荐理由：官方给出 Mistral Small 3.1 的基准对比、128k 上下文与端侧运行门槛，便于判断小模型选型。
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可证开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出量化后单卡本地部署的具体条件。