LLM 修复自身错误的能力如何？基于 Keras 与 TPU 的 chatbot arena 实验
Hugging Face 用 Keras、JAX 和 TPU 搭建了一个 chatbot arena，让多个 LLM 同时处理同一段日历 API 调用对话，测试它们在用户用自然语言指出错误后能否修正代码。实验在 TPU v5e 2x4 上以 bfloat16 同时加载了 5 个约 8B 参数模型和 3 个约 2B 参数模型，共 7 个 LLM，通过 Gradio Spaces 界面并行对话。
全部AI 动态
全部动态
今日 61 条Hugging Face BlogAI 评分2727 OpenAI NewsAI 评分2222 OpenAI 与 Future 达成合作，将 200 多个媒体品牌内容引入 ChatGPT
OpenAI 与全球专业媒体平台 Future 宣布战略合作，将 Future 旗下 200 多个媒体品牌的内容带给 OpenAI 用户。
OpenAI NewsAI 评分2020 Morgan Stanley 如何用 AI 评估塑造金融服务未来
Morgan Stanley 正借助 AI 评估（AI evals）推动金融服务变革。该机构将评估方法用于金融服务场景，以塑造行业未来。
Hugging Face BlogAI 评分2929 Hugging Face 推出 AraGen：基于 3C3H 的阿拉伯语 LLM 生成式评测基准与榜单
Hugging Face 发布 AraGen，一个面向阿拉伯语 LLM 的生成式任务基准与榜单，采用新的 3C3H 评测指标，从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度基于 LLM-as-judge 打分。榜单采用动态评测策略，数据集与评测代码先盲测三个月再公开，随后更换新私有基准，以缓解数据污染。该基准同时覆盖多轮与单轮场景，是这一语言无关评测框架的首次应用。
Hugging Face BlogAI 评分2222 CFM 如何用 LLM 辅助标注微调小模型：金融 NER 准确率提升 6.4%、成本降低 80 倍
Capital Fund Management（CFM）借助 Hugging Face Inference Endpoints 部署 Llama 3.1-70b-Instruct 生成标注、再用 Argilla 人工复核，微调出的小模型在金融命名实体识别上准确率最高提升 6.4%，推理成本较大模型低至 80 倍。
Hugging Face BlogAI 评分4040 Hugging Face 开源开发者 EU AI Act 合规指南
Hugging Face 发布开源开发者 EU AI Act 合规指南，梳理该法规对开源 AI 模型与系统的适用范围。仅通用目的 AI（GPAI）模型被直接监管，训练算力超 10^25 FLOPs 者构成系统性风险；有限风险系统须向用户披露其正在与 AI 交互。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SmolVLM：2B 视觉语言模型，显存占用为同类最低
Hugging Face 发布 SmolVLM，一个 2B 参数的小型视觉语言模型家族，包含 Base、Synthetic 和 Instruct 三个版本，模型权重、数据集、训练配方与工具均以 Apache 2.0 协议开源。
推荐理由：官方给出 2B 视觉语言模型的显存占用、吞吐与基准对比，可据此判断端侧多模态部署的可行边界。
Hugging Face BlogAI 评分2828 Hugging Face 重构 Hub 上传与下载架构
Hugging Face 的 Xet 团队正在重新设计 Hub 的上传与下载架构，计划引入内容寻址存储（CAS）作为内容分发第一站，并基于"读简单、写智能"理念构建自定义协议。新架构在字节级别分析文件，对 tensor 文件（如 Safetensors）的压缩探索有望将上传速度提升 10-25%。CAS 节点将部署在 AWS 少数区域，以覆盖北美、欧洲和亚洲的主要上传流量。
Hugging Face BlogAI 评分2222 如何一步步推导出 SOTA 位置编码 RoPE
Hugging Face 博客通过逐步改进位置编码方案，最终推导出 Llama 3.2 及多数现代 Transformer 使用的 RoPE（旋转位置编码）。文章以 Llama 3.2 1B 为例演示：不加位置信息时，多头自注意力对同一 token 在不同位置的输出完全相同。作者提出位置编码应满足唯一性、线性关系、长度泛化、确定性生成和可扩展至多维等五项理想属性。
OpenAI NewsAI 评分1717 OpenAI 如何用人类与 AI 推进红队测试
OpenAI 发布文章阐述如何结合人类与 AI 推进红队测试。原文未披露具体模型版本、参数规模或评测分数等细节。
OpenAI NewsAI 评分2020 用 GPT-4o 视觉微调构建更智能的地图
OpenAI 介绍了如何通过 GPT-4o 的视觉微调能力构建更智能的地图。该能力可针对特定图像任务优化模型表现，帮助开发者提升地图相关场景的识别与理解效果。
Hugging Face BlogAI 评分2828 Hugging Face 与 LLM-jp 联合推出日语 LLM 开放排行榜
Hugging Face 与 LLM-jp 联合发布 Open Japanese LLM Leaderboard，用 llm-jp-eval 评测套件覆盖 16 项任务，从自然语言推理、机器翻译到代码生成与数学推理，均以 4-shot 方式运行。该榜单整合超 20 个数据集，由 LLM-jp 评测团队联合语言学家与标注人员构建或翻译调整，旨在为日语 LLM 提供集中、开放的对比平台。
Hugging Face BlogAI 评分3131 Hugging Face 详解 LayerSkip 自推测解码：用 transformers 加速文本生成
Hugging Face 发布博客详解 LayerSkip 提出的自推测解码，用同一 LLM 的早期层生成 draft token、深层网络负责验证，无需额外小模型即可加速文本生成并降低显存占用。
Hugging Face BlogAI 评分4040 Hugging Face 如何用内容定义分块提升存储效率
Hugging Face 的 Xet 团队采用内容定义分块（CDC）将文件拆分为可变大小的块，仅传输和存储修改过的块，从而提升存储与迭代效率。在 CORD-19 数据集基准测试中，Xet 后端将平均下载时间从 51 分钟降至 19 分钟，上传从 47 分钟降至 24 分钟，存储占用从 8.9 GB 降至 3.52 GB。
Hugging Face BlogAI 评分4040 BAAI 推出 FlagEval Debate：首个多语言 LLM 辩论竞赛平台
BAAI 推出 FlagEval Debate 平台，让大模型以辩论形式直接对抗，目前支持英语、中文、阿拉伯语和韩语四种语言。平台采用专家评审与用户投票的双重评估机制，并提供开发者自定义参数功能，以解决静态评测和 Chatbot Arena 存在的判别力不足、模型孤立生成及投票偏差等问题。2024 年 Q3 的实验显示，当前多数模型已具备参与辩论的能力。
OpenAI NewsAI 评分1818 Rox 全面押注 OpenAI
Rox 宣布“all in”OpenAI，将商业经验与深厚的 LLM 专业能力同 OpenAI 模型结合，目标是让每位销售都成为前 1% 的销售。
Hugging Face BlogAI 评分5555 Hugging Face 与 Atla 推出 Judge Arena，用众包投票评测 LLM 裁判能力
Hugging Face 博客发布 Judge Arena，一个让用户对两个 LLM 裁判的评分和评语进行投票对比的平台，投票结果汇总为 Elo 排行榜并每小时更新。
Mistral AI精选AI 评分6666 Mistral AI 为 le Chat 加入联网搜索、Canvas 与图像生成等测试功能
Mistral AI 为免费生成式 AI 助手 le Chat 推出一批 beta 功能，包括带引用的联网搜索、用于构思与就地编辑和导出的 Canvas、由新多模态模型 Pixtral Large 支持的文档与图像理解、由 Black Forest Labs Flux Pro 支持的图像生成，以及可复用提示词流程的智能体。
推荐理由：官方一次性列出 le Chat 的联网搜索、Canvas、文档图像理解与智能体等能力，并给出与主流助手的逐项对比。
Mistral AI精选AI 评分7575 Mistral AI 发布 124B 开源多模态模型 Pixtral Large
Mistral AI 发布 Pixtral Large，一个基于 Mistral Large 2 的 124B 开放权重多模态模型，含 123B 多模态解码器和 1B 参数视觉编码器，支持 128K 上下文窗口，可容纳至少 30 张高分辨率图像。
推荐理由：原文给出 Pixtral Large 的基准成绩与开放权重许可，读者可据此判断开源多模态模型与闭源前沿模型的差距。
OpenAI NewsAI 评分2020 OpenAI 在法国设立欧洲大陆首个办公室
OpenAI 在法国开设了其在欧洲大陆的首个办公室。这是 OpenAI 在欧洲大陆的第一处办公机构，此前其欧洲布局仅涉及其他地区。
OpenAI NewsAI 评分1818 雅诗兰黛如何用 ChatGPT Enterprise 与自定义 GPT 驱动美妆创新
雅诗兰黛公司使用 ChatGPT Enterprise 和自定义 GPT 分析消费者数据、挖掘洞察并加速美妆创新。该案例展示了 OpenAI 企业级产品在美妆行业的数据驱动应用。
Hugging Face BlogAI 评分2222 在 Hugging Face Hub 上分享你的开放机器学习数据集
Hugging Face Hub 支持托管 TB 级数据集，并提供 Dataset Viewer、全文搜索、SQL Console 及 Pandas、DuckDB 等第三方库的一行代码加载支持。Xet 团队正将单文件上限从 50 GB 提升至 500 GB，同时改进存储与传输效率。数据集可设为公开、私有或门控访问，Nvidia、Google、NASA 等机构已在使用该平台。
Mistral AIAI 评分4040 Mistral AI 推出 Batch API，批量推理成本降低 50%
Mistral AI 在 La Plateforme 上线 Batch API，处理高并发请求的成本比同步 API 调用低 50%。用户上传批量文件、处理完成后下载输出文件即可，适用于情感分析、文档批量摘要与翻译、向量嵌入建索引和数据标注等场景。该 API 覆盖 La Plateforme 上全部模型，每个工作区最多 100 万个进行中的请求，并将陆续登陆其云厂商合作伙伴。
Mistral AIAI 评分5555 Mistral AI 发布内容审核 API
Mistral AI 发布新的内容审核 API，即其 Le Chat 审核服务所用的同一套接口，现对外开放供用户按自身安全标准定制。该模型是一个 LLM 分类器，将文本输入分为 9 个类别，提供原始文本和对话内容两个端点，对话端点只对上下文中的最后一条消息分类。
Hugging Face BlogAI 评分3838 Hugging Face 集成进 PyCharm：右键即可插入 HF 模型
Hugging Face 与 PyCharm 的集成现已上线，开发者可在代码中右键选择 "Insert HF Model"，按 image-text-to-text 等任务筛选模型并直接插入示例代码，例如 microsoft/Phi-3.5-vision-instruct。
Hugging Face BlogAI 评分3636 Argilla 2.4 发布：无需代码，在 Hugging Face Hub 上轻松构建微调与评测数据集
Argilla 2.4 推出无需代码的数据集构建功能，用户可直接从 Hugging Face Hub 导入数据集并在 Argilla UI 中定义问题、收集人工反馈。该功能支持公开数据集导入，默认启用 Hugging Face OAuth，方便社区或团队协作标注，适用于微调与评测数据集的构建。
OpenAI News精选AI 评分7878 OpenAI 推出 ChatGPT 搜索
OpenAI 发布 ChatGPT 搜索，可快速给出及时答案并附上相关网页来源链接。
推荐理由：OpenAI 官方发布 ChatGPT 搜索，读者可据此了解 ChatGPT 开始直接给出带网页来源链接的答案。
OpenAI NewsAI 评分1515 Promega 自上而下采用 ChatGPT，加速制造、销售与营销
Promega 自上而下推动全员采用 ChatGPT，用于加速制造、销售和营销环节。该案例展示了企业级 ChatGPT 部署在生命科学公司中的落地方式。
OpenAI NewsAI 评分2727 OpenAI 推出 SimpleQA 事实性基准
OpenAI 发布名为 SimpleQA 的事实性基准，用于衡量语言模型回答简短事实性问题的能力。该基准聚焦短小、寻求事实的提问场景，评估模型的事实准确性。
OpenAI NewsAI 评分2222 Decagon 与 OpenAI 如何交付高性能全自动客户支持
Decagon 与 OpenAI 合作，实现大规模、全自动的高性能客户支持。该方案面向规模化场景，提供完全自动化的客户支持能力。
Hugging Face Blog精选AI 评分6262 Universal Assisted Generation：用任意助手模型加速解码
Intel Labs 与 Hugging Face 提出 Universal Assisted Generation（UAG），让目标模型与助手模型不再需要共享 tokenizer，可跨模型家族配对。
推荐理由：Intel Labs 与 Hugging Face 提出的跨 tokenizer 推测解码方法，给出了可对照的加速数据和 Transformers 调用方式。
Hugging Face BlogAI 评分2222 Hugging Face Expert Support 案例：用 LLM-as-a-Judge 强化 RAG 应用
Digital Green 在 CGIAR 主导的 GAIA 项目中开发了农业问答机器人 Farmer.chat，并联合 Hugging Face 专家搭建 LLM-as-a-Judge 评估体系来评测其 RAG 管线。
Hugging Face Blog精选AI 评分6262 Cohere For AI 发布 Aya Expanse 8B 与 32B 多语言模型
Cohere For AI 发布 Aya Expanse 系列多语言模型，包含 8B 和 32B 两个参数版本，并以开放权重形式提供给研究社区。在成对比较中，Aya Expanse 32B 优于 Gemma 2 27B、Mistral 8x22B 和参数量超过其两倍的 Llama 3.1 70B；Aya Expanse 8B 在同参数级别中胜率为 60.4% 至 70.6%。
推荐理由：Cohere For AI 公开了 Aya Expanse 的完整后训练流程，读者可了解多语言模型如何用数据套利、偏好训练与模型合并提升表现。
OpenAI NewsAI 评分4141 OpenAI 简化并扩展连续时间一致性模型，两步采样媲美扩散模型
OpenAI 对连续时间一致性模型进行了简化、稳定化和规模化，仅用两步采样即可达到与领先扩散模型相当的样本质量。
Hugging Face Blog精选AI 评分6262 Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 发布 SynthID Text 文本水印
Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中发布 SynthID Text，可通过 logits processor 为 AI 生成文本加水印，并用分类器检测。
推荐理由：Google DeepMind 与 Hugging Face 把文本水印做成 Transformers 里的可调用组件，读者可据此了解生成内容溯源的具体做法与边界。
Hugging Face BlogAI 评分2222 Hugging Face 发布 CinePile 2.0：用对抗式数据集精炼打造更强的长视频问答数据集
Hugging Face 发布 CinePile 2.0 长视频问答数据集，采用其提出的对抗式数据集精炼（adversarial dataset refinement）方法进行改进。
Hugging Face Blog精选AI 评分6060 Hugging Face 推出 HUGS 生成式 AI 服务，零配置部署开源模型
Hugging Face 发布生成式 AI 服务 HUGS，提供零配置的优化推理微服务，基于 Text Generation Inference 和 Transformers，支持 NVIDIA、AMD GPU，AWS Inferentia 和 Google TPU 即将支持。
推荐理由：HUGS 把开源模型的推理部署从数周压缩到分钟级，并给出兼容 OpenAI API 的落地路径，可据此判断自托管开源模型的工程成本。
OpenAI NewsAI 评分1818 OpenAI 与 Lenfest Institute 的 AI Collaborative and Fellowship 项目
OpenAI 与 Lenfest Institute 合作开展 AI Collaborative and Fellowship 项目。该项目面向新闻行业，具体参与方式、名额与时间安排尚未在原文中披露。
Hugging Face BlogAI 评分3535 Hugging Face 如何在 Inference Endpoints 上部署 Speech-to-Speech
Hugging Face 发布 Speech-to-Speech（S2S）项目，通过 VAD、STT、语言模型和 TTS 组成的级联流水线实现语音对话，支持英语、法语、西班牙语、中文、日语和韩语，可单语言运行或用 auto 标志自动检测语言。
Hugging Face BlogAI 评分3838 Hugging Face 与 Protect AI 合作，用 Guardian 扫描模型安全
Hugging Face 宣布与 Protect AI 合作，将后者的 Guardian 扫描器集成进平台扫描套件，用于检测 pickle 等序列化格式中的任意代码执行等漏洞。所有公开模型仓库在推送文件后会自动被 Guardian 扫描，无需额外操作，目前平台已扫描数亿个文件。