Hugging Face 重构 Hub 上传与下载架构
Hugging Face 的 Xet 团队正在重新设计 Hub 的上传与下载架构，计划引入内容寻址存储（CAS）作为内容分发第一站，并基于"读简单、写智能"理念构建自定义协议。新架构在字节级别分析文件，对 tensor 文件（如 Safetensors）的压缩探索有望将上传速度提升 10-25%。CAS 节点将部署在 AWS 少数区域，以覆盖北美、欧洲和亚洲的主要上传流量。
#Hugging Face
#Hugging Face
今日 0 条Hugging Face BlogAI 评分2828
Hugging Face BlogAI 评分2222 如何一步步推导出 SOTA 位置编码 RoPE
Hugging Face 博客通过逐步改进位置编码方案，最终推导出 Llama 3.2 及多数现代 Transformer 使用的 RoPE（旋转位置编码）。文章以 Llama 3.2 1B 为例演示：不加位置信息时，多头自注意力对同一 token 在不同位置的输出完全相同。作者提出位置编码应满足唯一性、线性关系、长度泛化、确定性生成和可扩展至多维等五项理想属性。
Hugging Face BlogAI 评分2828 Hugging Face 与 LLM-jp 联合推出日语 LLM 开放排行榜
Hugging Face 与 LLM-jp 联合发布 Open Japanese LLM Leaderboard，用 llm-jp-eval 评测套件覆盖 16 项任务，从自然语言推理、机器翻译到代码生成与数学推理，均以 4-shot 方式运行。该榜单整合超 20 个数据集，由 LLM-jp 评测团队联合语言学家与标注人员构建或翻译调整，旨在为日语 LLM 提供集中、开放的对比平台。
Hugging Face BlogAI 评分3131 Hugging Face 详解 LayerSkip 自推测解码：用 transformers 加速文本生成
Hugging Face 发布博客详解 LayerSkip 提出的自推测解码，用同一 LLM 的早期层生成 draft token、深层网络负责验证，无需额外小模型即可加速文本生成并降低显存占用。
Hugging Face BlogAI 评分4040 Hugging Face 如何用内容定义分块提升存储效率
Hugging Face 的 Xet 团队采用内容定义分块（CDC）将文件拆分为可变大小的块，仅传输和存储修改过的块，从而提升存储与迭代效率。在 CORD-19 数据集基准测试中，Xet 后端将平均下载时间从 51 分钟降至 19 分钟，上传从 47 分钟降至 24 分钟，存储占用从 8.9 GB 降至 3.52 GB。
Hugging Face BlogAI 评分4040 BAAI 推出 FlagEval Debate：首个多语言 LLM 辩论竞赛平台
BAAI 推出 FlagEval Debate 平台，让大模型以辩论形式直接对抗，目前支持英语、中文、阿拉伯语和韩语四种语言。平台采用专家评审与用户投票的双重评估机制，并提供开发者自定义参数功能，以解决静态评测和 Chatbot Arena 存在的判别力不足、模型孤立生成及投票偏差等问题。2024 年 Q3 的实验显示，当前多数模型已具备参与辩论的能力。
Hugging Face BlogAI 评分5555 Hugging Face 与 Atla 推出 Judge Arena，用众包投票评测 LLM 裁判能力
Hugging Face 博客发布 Judge Arena，一个让用户对两个 LLM 裁判的评分和评语进行投票对比的平台，投票结果汇总为 Elo 排行榜并每小时更新。
Mistral AI精选AI 评分7575 Mistral AI 发布 124B 开源多模态模型 Pixtral Large
Mistral AI 发布 Pixtral Large，一个基于 Mistral Large 2 的 124B 开放权重多模态模型，含 123B 多模态解码器和 1B 参数视觉编码器，支持 128K 上下文窗口，可容纳至少 30 张高分辨率图像。
推荐理由：原文给出 Pixtral Large 的基准成绩与开放权重许可，读者可据此判断开源多模态模型与闭源前沿模型的差距。
Hugging Face BlogAI 评分2222 在 Hugging Face Hub 上分享你的开放机器学习数据集
Hugging Face Hub 支持托管 TB 级数据集，并提供 Dataset Viewer、全文搜索、SQL Console 及 Pandas、DuckDB 等第三方库的一行代码加载支持。Xet 团队正将单文件上限从 50 GB 提升至 500 GB，同时改进存储与传输效率。数据集可设为公开、私有或门控访问，Nvidia、Google、NASA 等机构已在使用该平台。
Hugging Face BlogAI 评分3838 Hugging Face 集成进 PyCharm：右键即可插入 HF 模型
Hugging Face 与 PyCharm 的集成现已上线，开发者可在代码中右键选择 "Insert HF Model"，按 image-text-to-text 等任务筛选模型并直接插入示例代码，例如 microsoft/Phi-3.5-vision-instruct。
Hugging Face BlogAI 评分3636 Argilla 2.4 发布：无需代码，在 Hugging Face Hub 上轻松构建微调与评测数据集
Argilla 2.4 推出无需代码的数据集构建功能，用户可直接从 Hugging Face Hub 导入数据集并在 Argilla UI 中定义问题、收集人工反馈。该功能支持公开数据集导入，默认启用 Hugging Face OAuth，方便社区或团队协作标注，适用于微调与评测数据集的构建。
Hugging Face Blog精选AI 评分6262 Universal Assisted Generation：用任意助手模型加速解码
Intel Labs 与 Hugging Face 提出 Universal Assisted Generation（UAG），让目标模型与助手模型不再需要共享 tokenizer，可跨模型家族配对。
推荐理由：Intel Labs 与 Hugging Face 提出的跨 tokenizer 推测解码方法，给出了可对照的加速数据和 Transformers 调用方式。
Hugging Face BlogAI 评分2222 Hugging Face Expert Support 案例：用 LLM-as-a-Judge 强化 RAG 应用
Digital Green 在 CGIAR 主导的 GAIA 项目中开发了农业问答机器人 Farmer.chat，并联合 Hugging Face 专家搭建 LLM-as-a-Judge 评估体系来评测其 RAG 管线。
Hugging Face Blog精选AI 评分6262 Cohere For AI 发布 Aya Expanse 8B 与 32B 多语言模型
Cohere For AI 发布 Aya Expanse 系列多语言模型，包含 8B 和 32B 两个参数版本，并以开放权重形式提供给研究社区。在成对比较中，Aya Expanse 32B 优于 Gemma 2 27B、Mistral 8x22B 和参数量超过其两倍的 Llama 3.1 70B；Aya Expanse 8B 在同参数级别中胜率为 60.4% 至 70.6%。
推荐理由：Cohere For AI 公开了 Aya Expanse 的完整后训练流程，读者可了解多语言模型如何用数据套利、偏好训练与模型合并提升表现。
Hugging Face Blog精选AI 评分6262 Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 发布 SynthID Text 文本水印
Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中发布 SynthID Text，可通过 logits processor 为 AI 生成文本加水印，并用分类器检测。
推荐理由：Google DeepMind 与 Hugging Face 把文本水印做成 Transformers 里的可调用组件，读者可据此了解生成内容溯源的具体做法与边界。
Hugging Face BlogAI 评分2222 Hugging Face 发布 CinePile 2.0：用对抗式数据集精炼打造更强的长视频问答数据集
Hugging Face 发布 CinePile 2.0 长视频问答数据集，采用其提出的对抗式数据集精炼（adversarial dataset refinement）方法进行改进。
Hugging Face Blog精选AI 评分6060 Hugging Face 推出 HUGS 生成式 AI 服务，零配置部署开源模型
Hugging Face 发布生成式 AI 服务 HUGS，提供零配置的优化推理微服务，基于 Text Generation Inference 和 Transformers，支持 NVIDIA、AMD GPU，AWS Inferentia 和 Google TPU 即将支持。
推荐理由：HUGS 把开源模型的推理部署从数周压缩到分钟级，并给出兼容 OpenAI API 的落地路径，可据此判断自托管开源模型的工程成本。
Hugging Face BlogAI 评分3535 Hugging Face 如何在 Inference Endpoints 上部署 Speech-to-Speech
Hugging Face 发布 Speech-to-Speech（S2S）项目，通过 VAD、STT、语言模型和 TTS 组成的级联流水线实现语音对话，支持英语、法语、西班牙语、中文、日语和韩语，可单语言运行或用 auto 标志自动检测语言。
Hugging Face BlogAI 评分3838 Hugging Face 与 Protect AI 合作，用 Guardian 扫描模型安全
Hugging Face 宣布与 Protect AI 合作，将后者的 Guardian 扫描器集成进平台扫描套件，用于检测 pickle 等序列化格式中的任意代码执行等漏洞。所有公开模型仓库在推送文件后会自动被 Guardian 扫描，无需额外操作，目前平台已扫描数亿个文件。
Hugging Face BlogAI 评分4242 dottxt 与 Hugging Face 发布 outlines-core 0.1.0：Rust 重写结构化生成核心
dottxt 与 Hugging Face 联合发布 outlines-core 0.1.0，这是 outlines 结构化生成核心算法的 Rust 移植版，索引编译速度平均提升 2 倍。该库已集成进 outlines，Python 绑定 0.1.0 版本同步上线，其轻量化设计便于其他库直接引入结构化生成能力，Rust 实现还为 Python 之外的语言绑定提供了可能。
Hugging Face Blog精选AI 评分7575 Transformers.js v3 发布：支持 WebGPU、新量化格式与 120 个架构
Hugging Face 发布 Transformers.js v3，新增 WebGPU 支持，官方称比 WASM 快最多 100 倍，加载模型时设置 device: 'webgpu' 即可启用。
推荐理由：官方给出 WebGPU 加速、量化格式与 120 个架构支持的具体变化，可据此判断浏览器端推理的可用边界。
Hugging Face Blog精选AI 评分6767 Diffusers 支持 Stable Diffusion 3.5 Large，含 8B 模型与少步蒸馏版
Stability AI 的 Stable Diffusion 3.5 已在 Hugging Face Hub 发布并接入 Diffusers，包含 8B 的 Large 模型和 8B 的 timestep-distilled 模型，后者支持 4-8 步少步推理。
推荐理由：官方给出 SD3.5 Large 在 Diffusers 中的推理、量化与 LoRA 训练代码，可直接照此在消费级显卡上跑通。
Hugging Face BlogAI 评分2929 Keras 中的 Llama 3.2：从第一天起就可用
Llama 3.2 在 Hugging Face / Transformers 上线两周后，Keras 已从第一天起支持加载 Llama 3.2 checkpoint，包括 meta-llama/Llama-3.2-1B-Instruct，无需转换即可通过 keras_hub 的 Llama3CausalLM.from_preset 直接调用。
Hugging Face BlogAI 评分4040 Hugging Face 修复 transformers 梯度累积损失计算错误
Hugging Face 修复了 transformers Trainer 中梯度累积的损失计算错误：此前开启梯度累积与全批量训练的损失不一致，正确做法应为累积步内所有批次总损失除以全部非 padding token 数，而非各批次损失的平均值。
Hugging Face BlogAI 评分3636 AMD 发布第五代 EPYC CPU（Turin）：Hugging Face 实测 Llama 3.1 8B 吞吐提升约 2 倍
AMD 发布基于 Zen5 架构的第五代服务器级 EPYC CPU（代号 Turin），最高 192 核 384 线程。Hugging Face 用 Meta Llama 3.1 8B 在 Turin（128 核）与 Genoa（96 核）上对比测试，借助 ZenDNN PyTorch 插件（zentorch）与 bfloat16，多数配置下解码吞吐提升约 2 倍。
Hugging Face BlogAI 评分4141 Gradio 5 安全审计：Trail of Bits 发现的风险已全部修复
Hugging Face 委托 Trail of Bits 对 Gradio 5 进行独立安全审计，发现的全部安全风险已在 Gradio 5.0 发布前修复并通过验证。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Gradio 5 稳定版
Hugging Face 发布 Gradio 5 稳定版，开发者可用几行 Python 构建生产级机器学习 Web 应用，通过 pip install --upgrade gradio 升级。
推荐理由：官方列出 Gradio 5 在 SSR 加载、流式与安全上的具体改动，可据此判断现有应用的迁移成本。
Hugging Face BlogAI 评分3131 Hugging Face + Dask 如何扩展 AI 数据处理：从 100 行到 2.11 亿行
Hugging Face 联合 Dask 展示用 Dask DataFrame 并行化 pandas，将 FineWeb 数据集的教育价值分类从本地 100 行扩展到云端多 GPU 上的 2.11 亿行。该流程用 FineWeb-Edu classifier 对 432 GB、250 个 Parquet 文件打分，并通过 map_partitions 实现多节点 GPU 并行推理。
Hugging Face BlogAI 评分5050 Intel Labs 与 Hugging Face 推出动态推测解码，文本生成最高提速 2.7 倍
Intel Labs 与 Hugging Face 提出动态推测解码方法，可根据助手模型置信度逐 token 动态调整推测前瞻长度，文本生成最高提速 2.7 倍。
Hugging Face BlogAI 评分2626 Hugging Face 如何改进 Hub 上 Parquet 文件的去重效率
Hugging Face 的 Xet 团队针对 Hub 上超 2.2PB 的 Parquet 存储测试了字节级 CDC 去重效果：追加 10,000 行可去重 99.1%，仅需额外 20MB；但修改一行因列头含绝对偏移量，去重率降至 89%，需额外 230MB。团队提出改用相对偏移量、按行组做内容定义分块等方案，并希望与 Apache Arrow 合作落地。
Hugging Face BlogAI 评分2828 Hugging Face 推出 Open FinLLM Leaderboard：金融大模型专用评测榜单
Hugging Face 发布 Open FinLLM Leaderboard，为金融场景提供专门的 LLM 评测框架，覆盖信息抽取、文本分析、问答、文本生成、风险管理、预测和决策七大类任务。榜单采用零样本评测，使用 Accuracy、F1、ROUGE 和 MCC 等指标，数据集来自金融行业真实挑战，如信用评分、欺诈检测和股价走势预测。
Hugging Face BlogAI 评分2222 BenCzechMark：你的 LLM 能理解捷克语吗？
Hugging Face 发布 BenCzechMark，首个面向捷克语的大语言模型综合评测套件，涵盖 9 大类共 50 项任务，其中 90% 为原生非翻译内容。配套榜单已收录超过 25 个不同规模的开源模型，任务采用 Acc、EM、AUROC、Ppl 等指标，并区分阅读理解、事实知识、捷克语理解、语言建模、数学推理、自然语言推理、命名实体识别、情感分析与文档检索等类别。
Hugging Face BlogAI 评分3131 如何将顶点着色网格转换为 UV 贴图纹理网格
Hugging Face 发布教程与 InstantTexture 库，可将 InstantMesh 等生成模型输出的顶点着色网格转换为 UV 贴图纹理网格。流程用 xatlas 生成 UV 映射，再通过重心坐标插值填充 1024 像素纹理，并配合修复、中值滤波、高斯模糊与 LANCZOS 降采样消除空洞。该库可通过 pip 安装，将 .obj 网格转换为 .glb 输出。
Hugging Face Blog精选AI 评分8080 Llama 3.2 发布：多模态视觉模型与可在设备端运行的 1B/3B 小模型
Meta 发布 Llama 3.2 系列共十款开放权重模型，包括 5 款多模态视觉模型和 5 款纯文本模型，均已上线 Hugging Face Hub。
推荐理由：Hugging Face 官方给出 Llama 3.2 十款开源权重的规格、基准与端侧运行方式，可据此判断多模态与 1B/3B 小模型的落地路径。
Hugging Face BlogAI 评分2222 Hugging Face Daily Papers 页面功能全解析
Hugging Face 的 Daily Papers 页面已收录超过 3,700 篇论文、订阅者突破 12k，作者可一键认领论文并关联模型、数据集与 demo。用户还能提交论文、用 @librarian-bot 推荐相似论文、多语言评论并借助内置翻译交流，订阅后每个工作日可收到最新论文邮件。
Hugging Face BlogAI 评分3636 Hugging Face 发布 FineVideo：4.3 万视频、3.4 千小时的开源视频数据集
Hugging Face 构建了 FineVideo 数据集，包含 4.3 万个视频、总时长 3.4 千小时，并配有丰富描述、叙事细节、场景切分和 QA 对。该数据集从 YouTube-Commons 的 190 万条英文视频出发，经词密度与视觉动态性过滤后，用 Gemini 1.5 Pro 和 GPT-4o 完成内容标注与结构化输出。
Hugging Face BlogAI 评分2828 用 Optimum-Intel 和 OpenVINO GenAI 优化并部署模型
Hugging Face 与 Intel 合作的 Optimum-Intel 支持将 Transformers 模型导出为 OpenVINO IR，并通过 OpenVINO GenAI 的 LLMPipeline 在 C++ 或 Python 中部署。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 LLM 微调到 1.58bit：极端量化变得简单
Hugging Face 团队探索出把已有模型微调到 1.58bit 的方法，成功将 Llama3 8B 微调为三值权重模型，并在 MMLU 上超过 Llama 1 7B。
推荐理由：作者公开了把已有 Llama3 8B 微调到 1.58bit 的完整技巧与踩坑过程，可迁移到其他模型的低比特微调。
Hugging Face BlogAI 评分5050 Hugging Face 为数据集推出 SQL Console
Hugging Face Hub 为数据集上线 SQL Console，用户可在浏览器中直接对数据集运行 SQL 查询。该控制台由 DuckDB WASM 驱动，100% 本地运行，支持完整 DuckDB 语法、结果导出为 parquet 及公开数据集查询链接分享。内存上限约 3GB，暂不支持 hf:// 协议。
Hugging Face BlogAI 评分5858 HuggingChat 推出 Community Tools，可将任意 Space 变成模型可调用的工具
HuggingChat 发布 Community Tools，用户可以把 Hugging Face 上任意公开 Space 变成模型可直接调用的工具，并借此扩展了图像理解、视频生成和文本转语音等多模态能力。