Hugging Face 与 Yaak 发布 L2D：全球最大开源自动驾驶数据集
Hugging Face 的 LeRobot 团队与 Yaak 联合发布 L2D（Learning to Drive），称其为全球最大的开源自动驾驶数据集，包含 90+ TB 多模态数据、5000+ 小时驾驶记录，来自德国 30 座城市的 60 辆驾校车辆。
推荐理由：L2D 以 90TB 多模态驾驶数据补齐端到端自动驾驶训练集缺口，并直接接入 LeRobot 训练管线。
#端侧
#端侧
今日 0 条Hugging Face Blog精选AI 评分7070
Hugging Face BlogAI 评分3434 如何在手机上通过 React Native 本地运行 LLM：Hugging Face 边缘推理指南
Hugging Face 发布教程，演示如何用 React Native 和 llama.rn（llama.cpp 的绑定）构建 Android/iOS 应用，从 Hugging Face hub 下载 GGUF 模型并在设备本地离线运行。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLM2 视频理解模型，含 2.2B、500M 和 256M 三个版本
Hugging Face 发布 SmolVLM2 系列视频理解模型，提供 2.2B、500M 和 256M 三种参数规模，并称 500M 与 256M 是迄今最小的视频语言模型。
推荐理由：官方给出三种参数规模与 Video-MME 表现，可据此判断小模型端侧视频理解的实际可用边界。
Mistral AI精选AI 评分7878 Mistral AI 发布 24B 参数模型 Mistral Small 3，Apache 2.0 开源
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可证开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出量化后单卡本地部署的具体条件。
Hugging Face Blog精选AI 评分7575 Transformers.js v3 发布：支持 WebGPU、新量化格式与 120 个架构
Hugging Face 发布 Transformers.js v3，新增 WebGPU 支持，官方称比 WASM 快最多 100 倍，加载模型时设置 device: 'webgpu' 即可启用。
推荐理由：官方给出 WebGPU 加速、量化格式与 120 个架构支持的具体变化，可据此判断浏览器端推理的可用边界。
Mistral AI精选AI 评分6767 Mistral AI 发布 Ministral 3B 和 8B 端侧模型
Mistral AI 在 Mistral 7B 发布一周年之际推出两款面向端侧与本地推理的模型 Ministral 3B 和 Ministral 8B，官方称其在 10B 以下级别刷新了知识、常识、推理、函数调用和效率的表现。
推荐理由：官方给出两款端侧小模型的能力定位、上下文长度与 API 定价，可据此判断本地推理的选型与成本。
Hugging Face Blog精选AI 评分8080 Llama 3.2 发布：多模态视觉模型与可在设备端运行的 1B/3B 小模型
Meta 发布 Llama 3.2 系列共十款开放权重模型，包括 5 款多模态视觉模型和 5 款纯文本模型，均已上线 Hugging Face Hub。
推荐理由：Hugging Face 官方给出 Llama 3.2 十款开源权重的规格、基准与端侧运行方式，可据此判断多模态与 1B/3B 小模型的落地路径。
Hugging Face BlogAI 评分2828 用 Optimum-Intel 和 OpenVINO GenAI 优化并部署模型
Hugging Face 与 Intel 合作的 Optimum-Intel 支持将 Transformers 模型导出为 OpenVINO IR，并通过 OpenVINO GenAI 的 LLMPipeline 在 C++ 或 Python 中部署。
Hugging Face BlogAI 评分2828 Hugging Face 发布 ggml 入门指南：面向 Transformer 推理的 C/C++ 机器学习库
Hugging Face 发布 ggml 入门指南，介绍这个用 C/C++ 编写、专注 Transformer 推理的开源机器学习库。
Hugging Face Blog精选AI 评分6262 Google 发布 Gemma 2 2B、ShieldGemma 与 Gemma Scope
Google 在 Gemma 2 发布一个月后扩充 Gemma 模型系列，新增 2.6B 参数的 Gemma 2 2B（含 base 与指令微调版）、安全分类器 ShieldGemma 以及稀疏自编码器套件 Gemma Scope。
推荐理由：Google 一次补齐 Gemma 2 的小尺寸、安全分类器和可解释性工具，读者可据此判断端侧部署与内容审核的可用选项。
Hugging Face Blog精选AI 评分6262 WWDC 24：用 Core ML 在 Mac 上运行 Mistral 7B
Hugging Face 发布教程，介绍如何借助 WWDC 24 的新 Core ML 特性在 Mac 上运行 Mistral 7B，并用不到 4GB 内存完成 7B 参数模型的推理。
推荐理由：Hugging Face 官方给出把 Mistral 7B 转成 Core ML 并跑在 Mac 上的完整步骤，可据此复现端侧部署流程。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolLM 系列小模型，含 135M、360M、1.7B 三档
Hugging Face 发布 SmolLM 系列小语言模型，包含 135M、360M 和 1.7B 三个参数规模，并同步开源训练语料 SmolLM-Corpus。
推荐理由：官方披露了 135M 到 1.7B 三档小模型的训练数据构成与同尺寸对比结果，可据此判断端侧部署的可行边界。
Hugging Face BlogAI 评分4040 在 Intel Meteor Lake 笔记本上运行 Phi-2：基于 OpenVINO 的 4-bit 量化实践
Hugging Face 与 Intel 合作，通过 Optimum Intel 中的 OpenVINO 集成对微软 Phi-2 模型权重做 4-bit 量化，并在搭载 Core Ultra 7 155H 的中端笔记本上完成推理。
Hugging Face Blog精选AI 评分6262 用 Core ML 在 iPhone、iPad 和 Mac 上加速 Stable Diffusion
Hugging Face 介绍了借助 Core ML 新优化在 iPhone、iPad 和 Mac 上加速 Stable Diffusion 的方法，核心是 6-bit palettization 量化，将权重从 16-bit 浮点压到每参数 6 bit，并在推理时逐层解压以节省内存。
推荐理由：Hugging Face 与 Apple 官方给出 6-bit palettization 的量化原理与转换命令，读者可据此把 Stable Diffusion 压到端侧运行。
Hugging Face BlogAI 评分4040 Hugging Face 发布 Swift 🧨Diffusers 1.1：Mac 原生 Stable Diffusion 应用提速至 2 倍
Hugging Face 推出 🧨Diffusers for Mac 1.1，这款基于 Core ML 的原生应用将 Stable Diffusion 文生图速度最高提升至 2 倍，并自动为设备选择 GPU 或 Neural Engine 加速器。
Hugging Face Blog精选AI 评分6262 如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion
借助 Apple 工程师提供的转换脚本和推理代码，Stable Diffusion 现在可以在 Apple Silicon 上通过 Core ML 运行，Hugging Face 已把 Stable Diffusion v1.4、v1.5、v2 base 和 v2.1 base 的权重转换好并放到 Hugging Face Hub。
推荐理由：原文给出在 Apple Silicon 上用 Core ML 跑 Stable Diffusion 的完整流程，含模型变体选择与实测耗时。