Hugging Face 用 Sentence Transformers 训练快 400 倍的静态嵌入模型
Hugging Face 发布方法，用 Sentence Transformers 训练静态嵌入模型，在 CPU 上比主流嵌入模型快 100 到 400 倍，同时保留大部分质量。
推荐理由：原文公开了静态嵌入模型的完整训练配方与两个已发布模型，读者可据此在 CPU 端复现高效嵌入方案。
全部AI 动态
全部动态
今日 4 条Hugging Face Blog精选AI 评分6262
OpenAI NewsAI 评分2323 Adebayo Ogunlesi 加入 OpenAI 董事会
Adebayo Ogunlesi 加入 OpenAI 董事会。Ogunlesi 是 Global Infrastructure Partners 的董事长兼首席执行官。
Mistral AI精选AI 评分6262 Mistral AI 发布 Codestral 25.01 编码模型
Mistral AI 发布 Codestral 25.01，采用更高效的架构和改进的分词器，生成与补全代码速度约为原版 Codestral 的 2 倍，支持 256k 上下文。
推荐理由：Codestral 25.01 的架构与分词器升级带来约 2 倍生成速度，并给出与同量级编码模型的基准对比。
Hugging Face BlogAI 评分2222 Hugging Face 发文《AI Agents Are Here. What Now?》：建议不要开发完全自主的 AI 智能体
Hugging Face 发布文章《AI Agents Are Here. What Now?》，指出 AI 智能体的风险随自主性等级上升而增加，建议不要开发能自行编写并执行代码的完全自主智能体。文章按自主程度将智能体分为五级，从模型不影响程序流程到模型自行编写并执行新代码，并认为半自主智能体在自主性水平、可用任务和人类控制方式合适时，收益可能大于风险。
Hugging Face BlogAI 评分3636 Hugging Face 发布 vdr-2b-multi-v1 多语言视觉文档检索嵌入模型
Hugging Face 推出多语言视觉文档检索嵌入模型 vdr-2b-multi-v1，可直接编码文档页面截图为稠密单向量，无需 OCR、数据抽取或分块。
Hugging Face BlogAI 评分2929 Hugging Face 开放 LLM 排行榜新增 CO₂ 排放数据：社区微调模型更低碳
Hugging Face 在 Open LLM Leaderboard 中新增模型推理的 CO₂ 排放估算，基于 2024 年 6 月以来对 3000 多个模型的评测数据。分析覆盖 Gemma、Llama、Mistral、Mixtral、Phi、Qwen2 等 2742 个模型，发现社区微调或合并模型通常比其官方基座模型更低碳，而部分 MoE 模型因推理时间过长导致排放高于预期。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 smolagents：用代码编写动作的简单智能体库
Hugging Face 发布 smolagents，一个让语言模型具备智能体能力的轻量库，核心是 CodeAgent，即用代码而非 JSON 编写动作的智能体，同时保留写 JSON 的 ToolCallingAgent。
推荐理由：官方给出 CodeAgent 的定位与代码示例，读者可据此判断代码式动作与 JSON 工具调用的差异。
OpenAI NewsAI 评分2222 OpenAI 的结构为何必须演进以推进其使命
OpenAI 发文解释其结构必须演进，以推进自身使命，方向是让非营利组织更强大，并由营利性业务取得的成功来支撑。
Hugging Face Blog精选AI 评分6262 如何在 PyTorch 中可视化并理解 GPU 显存占用
Hugging Face 博客给出用 torch.cuda.memory._record_memory_history 记录并可视化 PyTorch 训练 GPU 显存占用的完整教程，可在 pytorch.org/memory_viz 拖入 profile.pkl 查看内存曲线。
推荐理由：用 PyTorch 内存快照逐段拆解训练显存构成，并给出可套用的估算公式与工具。
Hugging Face BlogAI 评分3838 用 NVIDIA LogitsProcessorZoo 控制语言模型生成
NVIDIA 的 LogitsProcessorZoo 是一套模块化 logits 处理器，可控制序列长度、强制关键短语或引导多选题答案，并与 Hugging Face 的 generate 方法完全兼容。
OpenAI News精选AI 评分6060 OpenAI 提出审议式对齐：推理让语言模型更安全
OpenAI 为 o1 模型提出新的对齐策略 deliberative alignment，直接向模型教授安全规范并教其如何对这些规范进行推理。该策略面向 o1 系列模型，目标是提升语言模型的安全性。
推荐理由：OpenAI 公开 o1 模型的对齐策略，读者可了解其如何把安全规范直接教给模型并让其推理。
Hugging Face BlogAI 评分4444 Artificial Analysis 发布 Big Bench Audio，评估音频推理能力
Artificial Analysis 发布 Big Bench Audio 评测数据集，用于评估音频语言模型的推理能力，该数据集将 Big Bench Hard 的 1000 道题改编为音频形式。
Hugging Face Blog精选AI 评分7171 Answer.AI 与 LightOn 发布 ModernBERT，为 BERT 提供替代方案
Answer.AI 与 LightOn 联合发布 ModernBERT，这是一系列编码器模型，作为 BERT 类模型的直接替换方案，提供 base（149M 参数）和 large（395M 参数）两个版本。
推荐理由：ModernBERT 把近年 LLM 的架构与训练经验移植回编码器，读者可据此判断 BERT 类模型在检索与分类场景的替换空间。
Hugging Face BlogAI 评分5858 IBM 联合普林斯顿等发布 Bamba-9B 混合 Mamba2 模型
IBM 联合普林斯顿、CMU 和 UIUC 发布 Bamba-9B，一个基于完全开放数据训练的混合 Mamba2 模型，训练数据量 2.2T tokens。在 vLLM 中，该模型相比标准 Transformer 实现 2.5 倍吞吐提升和 2 倍延迟加速，并已支持 transformers、vLLM、TRL 和 llama.cpp。
Hugging Face BlogAI 评分2222 在 GCP 第 5 代 Xeon 上基准测试语言模型性能
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4（第 5 代 Xeon，Emerald Rapids，支持 AMX）与 N2（第 3 代 Xeon，Ice Lake）实例上对比了文本嵌入与文本生成两项智能体负载。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon3 开源模型家族，含 1B 至 10B 五款基础模型
阿布扎比技术创新研究院（TII）发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B-Base、Mamba-7B-Base、7B-Base 和 10B-Base 五款基础模型，全部在 100 亿参数以下。
推荐理由：Falcon3 家族覆盖 1B 到 10B 五款模型，给出了训练数据规模与基准对比，可据此判断小尺寸开源模型的选型空间。
OpenAI News精选AI 评分6262 OpenAI 发布 o1 模型及面向开发者的新工具
OpenAI 发布 o1 模型，并同步带来 Realtime API 改进和一种新的微调方法等面向开发者的更新。官方公告仅给出上述要点，未披露具体参数、价格或可用范围。
推荐理由：OpenAI 官方一次性给出 o1 模型与 Realtime API、微调方法的更新，便于开发者对照现有集成评估升级点。
Hugging Face BlogAI 评分5858 Hugging Face 推出 Synthetic Data Generator，用自然语言构建数据集
Hugging Face 发布 Synthetic Data Generator，一个无代码应用，用户用自然语言描述需求即可生成自定义数据集。工具目前支持文本分类和聊天两类数据集，背后由 distilabel 和免费的 Hugging Face text-generation API 驱动，文本分类和聊天分别约为每分钟 50 和 20 个样本。
OpenAI NewsAI 评分4040 OpenAI 回应马斯克诉讼：他 2017 年曾想要并亲手创建营利性结构
OpenAI 回应马斯克最新法律诉讼，称这是其不到一年内的第四次尝试。OpenAI 表示，马斯克 2017 年不仅想要、而且实际创建了营利性结构作为 OpenAI 当时提议的新架构。
Hugging Face BlogAI 评分2828 Hugging Face 与 Entalpic 联合发布开源材料发现项目 LeMaterial，推出 670 万条数据集的 LeMat-Bulk
Hugging Face 与 Entalpic 联合推出开源协作项目 LeMaterial，并发布首个数据集 LeMat-Bulk，整合 Materials Project、Alexandria 和 OQMD 三大材料数据库，形成 670 万条条目、7 种材料属性的统一数据格式，采用 CC-BY-4.0 许可。
OpenAI News精选AI 评分8080 OpenAI 视频生成模型 Sora 上线 sora.com
OpenAI 的视频生成模型 Sora 现已上线 sora.com 供用户使用。用户可生成最高 1080p 分辨率、最长 20 秒的视频，支持宽屏、竖屏和方形画幅。用户可导入自有素材进行扩展、重混和融合，也可完全由文本生成新内容。
推荐理由：OpenAI 官方给出 Sora 的开放入口与分辨率、时长、画幅等具体规格，便于读者判断可用范围。
Hugging Face BlogAI 评分2828 Hugging Face 模型上架 Amazon Bedrock Marketplace
Hugging Face 的开源模型现已通过 Amazon Bedrock Marketplace 提供，AWS 客户可部署 83 个开源模型构建生成式 AI 应用。
Hugging Face BlogAI 评分3636 Hugging Face 社区发布文本到图像生成开放偏好数据集
Hugging Face 的 Data is Better Together 社区发布 Apache 2.0 许可的文本到图像偏好数据集，覆盖多种图像生成类别并混合不同模型家族与提示词复杂度。数据集基于 Flux 和 Stable Diffusion 模型生成图像，配套提供 flux-dev-lora-finetune 微调模型及 GitHub 预处理代码。
OpenAI News精选AI 评分6262 OpenAI 发布 Sora 系统卡
OpenAI 发布 Sora 系统卡，介绍其视频生成模型 Sora。Sora 支持文本、图像和视频输入，输出新生成的视频，并基于 DALL-E 与 GPT 系列模型的经验构建，用于拓展叙事与创意表达的工具。
推荐理由：OpenAI 官方系统卡披露 Sora 的输入输出形式与模型来源，可了解其视频生成能力边界。
OpenAI NewsAI 评分1818 Vallée Duhamel 如何用 Sora 构建新世界
电影制作组合 Vallée Duhamel 讲述了 Sora 如何帮助他们构建新的世界。
OpenAI NewsAI 评分1818 动画师 Lyndon Barrois 用 Sora 创造新世界
电影制作人 Lyndon Barrois 展示了如何将 Sora 用作叙事工具来创造新世界。他分享了使用 Sora 进行故事创作的方法。
OpenAI NewsAI 评分00 OpenAI 让 AI 为产品团队所用
OpenAI 发布面向产品团队的 AI 应用指南，帮助产品团队把 AI 投入实际工作。内容围绕如何将 AI 融入产品团队的日常工作展开。
OpenAI NewsAI 评分1212 Minne Atairu 谈如何用 Sora 实现创作构想
跨学科艺术家 Minne Atairu 讲述 Sora 如何帮助她实现自己的创作构想。
OpenAI News精选AI 评分7878 OpenAI 推出 ChatGPT Pro
OpenAI 发布 ChatGPT Pro，官方称其用于扩大前沿 AI 的使用范围。该消息来自 OpenAI 官方，原文仅给出这一句说明，未披露价格、具体功能或可用范围。
推荐理由：OpenAI 官方推出 ChatGPT Pro 订阅档，读者可据此了解其订阅体系新增的一档定位。
OpenAI News精选AI 评分6262 OpenAI 发布 o1 系统卡
OpenAI 发布 o1 系统卡，说明在发布 o1 和 o1-mini 之前开展的安全工作，包括外部红队测试以及依据 Preparedness Framework 进行的前沿风险评估。
推荐理由：OpenAI 官方系统卡披露 o1 与 o1-mini 发布前的红队测试和前沿风险评估流程，可了解其安全评估框架。
Hugging Face BlogAI 评分5858 Google 发布 PaliGemma 2 视觉语言模型，提供 3B/10B/28B 三种规格
Google 发布新一代视觉语言模型 PaliGemma 2，沿用 SigLIP 图像编码器并将文本解码器升级为 Gemma 2，提供 3B、10B、28B 三种参数规格，均支持 224x224、448x448、896x896 三种输入分辨率，而上一代 PaliGemma 仅有 3B 版本。
Hugging Face BlogAI 评分2727 LLM 修复自身错误的能力如何？基于 Keras 与 TPU 的 chatbot arena 实验
Hugging Face 用 Keras、JAX 和 TPU 搭建了一个 chatbot arena，让多个 LLM 同时处理同一段日历 API 调用对话，测试它们在用户用自然语言指出错误后能否修正代码。实验在 TPU v5e 2x4 上以 bfloat16 同时加载了 5 个约 8B 参数模型和 3 个约 2B 参数模型，共 7 个 LLM，通过 Gradio Spaces 界面并行对话。
OpenAI NewsAI 评分2222 OpenAI 与 Future 达成合作，将 200 多个媒体品牌内容引入 ChatGPT
OpenAI 与全球专业媒体平台 Future 宣布战略合作，将 Future 旗下 200 多个媒体品牌的内容带给 OpenAI 用户。
OpenAI NewsAI 评分2020 Morgan Stanley 如何用 AI 评估塑造金融服务未来
Morgan Stanley 正借助 AI 评估（AI evals）推动金融服务变革。该机构将评估方法用于金融服务场景，以塑造行业未来。
Hugging Face BlogAI 评分2929 Hugging Face 推出 AraGen：基于 3C3H 的阿拉伯语 LLM 生成式评测基准与榜单
Hugging Face 发布 AraGen，一个面向阿拉伯语 LLM 的生成式任务基准与榜单，采用新的 3C3H 评测指标，从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度基于 LLM-as-judge 打分。榜单采用动态评测策略，数据集与评测代码先盲测三个月再公开，随后更换新私有基准，以缓解数据污染。该基准同时覆盖多轮与单轮场景，是这一语言无关评测框架的首次应用。
Hugging Face BlogAI 评分2222 CFM 如何用 LLM 辅助标注微调小模型：金融 NER 准确率提升 6.4%、成本降低 80 倍
Capital Fund Management（CFM）借助 Hugging Face Inference Endpoints 部署 Llama 3.1-70b-Instruct 生成标注、再用 Argilla 人工复核，微调出的小模型在金融命名实体识别上准确率最高提升 6.4%，推理成本较大模型低至 80 倍。
Hugging Face BlogAI 评分4040 Hugging Face 开源开发者 EU AI Act 合规指南
Hugging Face 发布开源开发者 EU AI Act 合规指南，梳理该法规对开源 AI 模型与系统的适用范围。仅通用目的 AI（GPAI）模型被直接监管，训练算力超 10^25 FLOPs 者构成系统性风险；有限风险系统须向用户披露其正在与 AI 交互。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLM：2B 视觉语言模型，显存占用为同类最低
Hugging Face 发布 SmolVLM，一个 2B 参数的小型视觉语言模型家族，包含 Base、Synthetic 和 Instruct 三个版本，模型权重、数据集、训练配方与工具均以 Apache 2.0 协议开源。
推荐理由：官方给出 2B 视觉语言模型的显存占用、吞吐与基准对比，可据此判断端侧多模态部署的可行边界。
Hugging Face BlogAI 评分2828 Hugging Face 重构 Hub 上传与下载架构
Hugging Face 的 Xet 团队正在重新设计 Hub 的上传与下载架构，计划引入内容寻址存储（CAS）作为内容分发第一站，并基于"读简单、写智能"理念构建自定义协议。新架构在字节级别分析文件，对 tensor 文件（如 Safetensors）的压缩探索有望将上传速度提升 10-25%。CAS 节点将部署在 AWS 少数区域，以覆盖北美、欧洲和亚洲的主要上传流量。
Hugging Face BlogAI 评分2222 如何一步步推导出 SOTA 位置编码 RoPE
Hugging Face 博客通过逐步改进位置编码方案，最终推导出 Llama 3.2 及多数现代 Transformer 使用的 RoPE（旋转位置编码）。文章以 Llama 3.2 1B 为例演示：不加位置信息时，多头自注意力对同一 token 在不同位置的输出完全相同。作者提出位置编码应满足唯一性、线性关系、长度泛化、确定性生成和可扩展至多维等五项理想属性。