Hugging Face 发布 Open TTS Leaderboard：面向多语言 TTS 与声音克隆的可扩展评测
Hugging Face 推出 Open TTS Leaderboard，用客观指标评测开源多语言 TTS 与声音克隆模型，单模型评测耗时从数周投票缩短到数小时。
#评测/基准
#评测/基准
今日 0 条Hugging Face BlogAI 评分3636
Hugging Face BlogAI 评分3030 英国 AISI 如何用 EvalEval 基础设施让评测结果可复现
英国 AI Security Institute（AISI）正采用 EvalEval 的 Every Eval Ever schema 与 Evaluation Cards 平台公开分享评测结果，以提升评测科学的可复现性。
Hugging Face BlogAI 评分3232 Hugging Face 推出 BenchMIRT：LLM 基准测试究竟在测什么？
Hugging Face 发布 BenchMIRT，一种在单条提示词层面审计 LLM 基准测试的多维 IRT 方法，基于 100 个 LLM、16 个基准、超 34K 道题的测试结果训练，在未被告知基准对应能力的情况下自行恢复出安全与通用推理两个主导维度。
Hugging Face BlogAI 评分5252 Open ASR Leaderboard 新增首个全球南方语言评测集 Monsoon
Voice Arena 与 Hugging Face 合作，在 Open ASR Leaderboard 上新增 Monsoon en-IN 和 Monsoon hi-IN 两个评测集，印地语成为该多语言榜单上的首个印度语言。
Hugging Face Blog精选AI 评分6262 Hugging Face 研究：语音识别基准优化如何被量化
Hugging Face 发布研究，用共识分歧、掩码实体检索和拼写切换三项探针量化语音识别中的基准优化现象，评测了 11 个开源 ASR 模型。
推荐理由：通过三项探针量化语音模型对基准的过拟合，并给出可复用的检测脚本与榜单入口。
Microsoft ResearchAI 评分3838 微软研究院推出 MindTopo 基准，揭示多模态大模型空间推理短板
微软研究院发布 MindTopo 基准，用于评测多模态大模型在连通性、封闭性、顺序、分离和绳结五类拓扑关系上的推理与规划能力。测试显示，当前专有与开源模型在静态识别上明显强于交互规划，且两者均远低于人类水平，失败多发生在规划阶段而非感知阶段。图像与视频生成仅在单帧内保留拓扑关系时有用，跨多步操作仍不可靠。
Hugging Face BlogAI 评分4040 ALTK-Evolve 对比 ACE：用更少 Token 实现更强的智能体记忆
Hugging Face 的 ALTK-Evolve 与 ACE 同为无需权重更新的智能体记忆方案，但前者按任务检索少量高支持度 guideline，而非每步注入完整 playbook。
Hugging Face BlogAI 评分2222 DharmaOCR 在巴西葡萄牙语 OCR 基准上超越 Mistral OCR4 与 Unlimited-OCR
DharmaOCR 在葡萄牙语专用基准上取得 0.925 分，高于 Mistral OCR4 的 0.798 和 Unlimited-OCR 的 0.7587。该模型通过葡萄牙语监督微调加 DPO 两阶段训练，将全部参数集中于巴西葡萄牙语，从而在提取质量与稳定性上保持优势。
Hugging Face Blog精选AI 评分6262 Hume 发布 Real World VoiceEQ 语音 AI 人类质量评测基准
Hume 发布 Real World VoiceEQ，一个评估语音交互人类质量的基准，覆盖 40 多个专有与开源语音模型、15 个以上评测维度和 60 多项指标，涵盖 ASR、TTS、S2S 与语音理解。
推荐理由：Hume 公开了语音 AI 人类质量评测基准的规模与关键发现，读者可据此理解现有基准为何高估真实表现。
Hugging Face BlogAI 评分3939 ScarfBench：面向企业级 Java 框架迁移的 AI 智能体基准测试
Hugging Face 发布开源基准 ScarfBench，用于评测 AI 智能体在企业级 Java 框架迁移中的表现，覆盖 Spring、Jakarta EE、Quarkus 三大生态，含 34 个应用、102 个框架实现、204 个迁移任务和 1331 个专家测试。评测显示最强智能体行为成功率不足 10%，Claude Code 报告 30 个应用中 29 个构建成功，实际仅 22 个通过。
Hugging Face BlogAI 评分5050 Hugging Face 模型页上线 Every Eval Ever 评测结果
Every Eval Ever（EEE）与 Hugging Face Community Evals 现已互通，评测结果可交叉发布并回链到完整 EEE 记录。EEE 数据存储已积累约 229,000 条评测结果，覆盖超 22,000 个模型和 2,200 个 benchmark，来自 31 种报告格式。
Hugging Face BlogAI 评分3636 Hugging Face 与 Treble Technologies 推出 FFASR 远场 ASR 排行榜
Hugging Face 与 Treble Technologies 发布首个开放、社区驱动的远场 ASR 基准 FFASR Leaderboard，覆盖 14 个模拟房间，并设有 Lab Measured 与 Lab Simulated 的 sim-to-real 验证轨道。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 agent-eval：在自有工具上评测开源模型的智能体表现
Hugging Face 发布 agent-eval 工具，用于评测智能体使用某个库完成任务的全过程，而不只看最终答案，并以 transformers 为案例在模型、版本、任务三个维度上展开测试。
推荐理由：原文给出了一套可复用的工具基准方法，并展示了同一改动对不同规模模型效果相反的具体证据。
Google DeepMind精选AI 评分6666 WeatherNext 如何帮助美国国家飓风中心预测飓风 Melissa 登陆牙买加
Google DeepMind 与 Google Research 开发的 AI 天气模型 WeatherNext 帮助美国国家飓风中心提前五天预测飓风 Melissa 将以五级强度登陆牙买加，置信度达 80%，三天前升至接近 100%。
推荐理由：通过飓风 Melissa 的实战案例，展示 AI 天气模型在路径与强度双预测上的表现及官方机构的验证结论。
Hugging Face BlogAI 评分3636 Hugging Face 为 Open ASR Leaderboard 引入私有数据集防刷榜
Hugging Face 联合 Appen Inc. 与 DataoceanAI 为 Open ASR Leaderboard 引入一批私有高质量英语 ASR 数据集，覆盖多口音的朗读与对话语音，以防止 benchmaxxing 和测试集污染。
Hugging Face BlogAI 评分2828 QIMMA：Hugging Face 推出质量优先的阿拉伯语 LLM 排行榜
Hugging Face 发布 QIMMA（阿拉伯语"顶峰"），一个先验证基准质量再评测模型的开源阿拉伯语 LLM 排行榜。QIMMA 整合 14 个来源基准的 109 个子集、超 52,000 条样本，覆盖文化、STEM、法律、医疗、安全、诗歌与编程 7 大领域，其中 99% 为原生阿拉伯语内容，并首次在阿拉伯语排行榜中引入代码评测。
Hugging Face BlogAI 评分3838 Hugging Face 发布 VAKRA：评测 AI 智能体推理、工具调用与失败模式的可执行基准
Hugging Face 推出 VAKRA，一个面向企业级环境的工具接地可执行基准，用于评测 AI 智能体的组合推理与多步工作流执行能力。VAKRA 提供 8,000+ 本地托管 API、覆盖 62 个领域并配有领域文档，任务需 3-7 步推理链，包含 API Chaining、Tool Selection、Multi-Hop Reasoning 等四项任务，模型整体表现不佳。
Google ResearchAI 评分5858 Google 发布 Vantage：用生成式 AI 模拟对话评估未来技能
Google 发布研究实验 Vantage，通过生成式 AI 构建模拟环境中的多轮对话，评估高中与大学生面向未来的技能，现已在 Google Labs 开放英文注册。
Google ResearchAI 评分3838 Google Research 评估 LLM 行为倾向与人类的对齐程度
Google Research 提出一套框架，用改编自 IRI、ERQ 等心理学问卷的情境判断测试（SJT），在真实用户-助手场景中评估 LLM 行为倾向与人类共识的对齐程度。对 25 个 LLM 的大规模分析发现两类差距：模型倾向偏离人类标注者共识，以及在无共识时无法覆盖人类意见的分布范围。
Google ResearchAI 评分3131 Google Research 研究：AI 基准测试需要多少标注者才够？
Google Research 发布研究《Forest vs Tree: The (N, K) Trade-off in Reproducible ML Evaluation》，指出 AI 评测常用的每项 1-5 名标注者往往不足，要反映人类意见差异常需每项超过 10 名标注者。
Hugging Face BlogAI 评分4242 Hugging Face 推出语音智能体评估框架 EVA
Hugging Face 发布端到端语音智能体评估框架 EVA，首次同时打分任务成功率（EVA-A）与对话体验（EVA-X），并开源含 50 个航司场景的数据集。对 20 个级联与音频原生系统的基准测试显示，准确率与体验之间存在一致的权衡：任务完成得好的智能体，用户体验往往更差。
Google DeepMindAI 评分4545 Google DeepMind 发布 AGI 认知框架，并启动 Kaggle 黑客松
Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》，提出用 10 项认知能力（感知、生成、注意力、学习、记忆、推理、元认知、执行功能、问题解决、社会认知）衡量 AI 向 AGI 的进展，并配套三阶段评估协议。
Google ResearchAI 评分4040 Google 在 PNAS 发表研究：用高温超导问题测试 LLM 世界模型
Google 与康奈尔大学合作在 PNAS 发表研究，让 GPT-4o、Perplexity、Claude 3.5、Gemini Advanced Pro 1.5、NotebookLM 和一套自建 RAG 系统回答 67 道高温超导专家级问题，由国际专家小组按六项指标盲评打分。
OpenAI NewsAI 评分3131 OpenAI 与太平洋西北国家实验室合作推出 DraftNEPABench，加速联邦许可审批
OpenAI 与太平洋西北国家实验室联合推出 DraftNEPABench，用于评估 AI 编程智能体加速联邦许可审批的能力。该基准显示，NEPA 草案撰写时间有望最多缩短 15%，并推动基础设施审查现代化。
OpenAI NewsAI 评分3838 OpenAI 为何不再评测 SWE-bench Verified
OpenAI 宣布不再使用 SWE-bench Verified 评测前沿编程能力，原因是该基准正日益受到污染，且存在测试缺陷与训练数据泄漏问题，已无法准确衡量模型进展。OpenAI 建议改用 SWE-bench Pro。
OpenAI NewsAI 评分3838 OpenAI 公布 AI 模型在 First Proof 数学挑战中的证明尝试
OpenAI 公开了其 AI 模型针对 First Proof 数学挑战的证明尝试，用于测试模型在专家级问题上的研究级推理能力。该挑战聚焦研究级数学推理，OpenAI 未披露具体模型名称与成绩。
Hugging Face BlogAI 评分4949 IBM 与 UC Berkeley 用 ITBench 和 MAST 诊断企业级 Agent 失败原因
IBM Research 与 UC Berkeley 用 MAST 失败分类法分析了 310 条 ITBench SRE 执行轨迹，覆盖 Gemini-3-Flash、Kimi-K2 和 GPT-OSS-120B 三类模型。
OpenAI NewsAI 评分3636 OpenAI 与 Paradigm 推出 EVMbench：评估 AI 智能体发现、修补与利用智能合约漏洞的能力
OpenAI 与 Paradigm 联合推出 EVMbench，用于评估 AI 智能体检测、修补和利用高危智能合约漏洞的能力。该基准聚焦高严重性漏洞，覆盖发现、修复与攻击三类任务。
Hugging Face BlogAI 评分5858 OpenEnv 实践：在真实环境中评测工具型智能体
Meta 与 Hugging Face 联合推出的开源框架 OpenEnv 用于在真实系统而非模拟环境中评测 AI 智能体，Turing 为其贡献了生产级日历管理环境 Calendar Gym。
Hugging Face Blog精选AI 评分6262 Hugging Face 推出 Community Evals，让基准数据集托管排行榜
Hugging Face 推出 Community Evals，基准数据集仓库现在可以注册为 benchmark 并托管排行榜，模型仓库通过 .eval_results/*.yaml 存储自己的评测分数，任何用户都能以 PR 形式提交结果。
推荐理由：Hugging Face 把评测结果从黑箱榜单搬到 Hub 仓库，读者可据此理解社区化评测的运作方式。
Hugging Face BlogAI 评分2121 Hugging Face 发布 Alyah：面向阿拉伯语 LLM 阿联酋方言能力的评测基准
Hugging Face 团队推出 Alyah（阿联酋方言中意为"北极星"），一个专门评估阿拉伯语 LLM 阿联酋方言能力的基准，包含 1,173 条由阿联酋母语者手工采集的样本，每题四选一。评测覆盖 54 个模型（23 个基座、31 个指令微调），google/gemma-3-27b-pt 以 74.68 的准确率居首，tiiuae/Falcon-H1-34B-Base 为 73.66。
Hugging Face BlogAI 评分3838 AssetOpsBench：弥合 AI 智能体基准与工业现实之间的差距
Hugging Face 发布 AssetOpsBench，一个面向工业资产运维的智能体评测基准，包含 2.3M 传感器遥测点、140+ 场景、4.2K 工单和 53 种结构化故障模式，覆盖 4 个智能体。
Hugging Face BlogAI 评分4040 NVIDIA 用 NeMo Evaluator 开源 Nemotron 3 Nano 30B A3B 完整评测方案
NVIDIA 发布 Nemotron 3 Nano 30B A3B，并公开其完整评测配方，基于开源库 NeMo Evaluator 构建，任何人可重跑评测流程并独立核验结果。
Google DeepMindAI 评分4040 Google DeepMind 与 Kaggle 推出 FACTS Benchmark Suite，系统评估大语言模型事实准确性
Google DeepMind 联合 Kaggle 发布 FACTS Benchmark Suite，在原有 FACTS Grounding 基础上新增 Parametric、Search、Multimodal 三项基准，并将 Grounding 升级至 v2，共 3513 个公开样例，另设私有留出集。
Google ResearchAI 评分2727 Google 发布 MSEB 音频智能基准，覆盖 8 类听觉任务
Google Research 在 NeurIPS 2025 发布 Massive Sound Embedding Benchmark（MSEB），用于标准化评估声音嵌入模型的 8 类听觉能力，涵盖检索、推理、分类、转录、分割、聚类、重排序与重建。
Hugging Face BlogAI 评分3030 Hugging Face Open ASR Leaderboard 新增多语言与长音频赛道，并发布 ASR 趋势预印本
Hugging Face 的 Open ASR Leaderboard 新增多语言与长音频转录赛道，并发布基于 60+ 模型的 ASR 趋势预印本。
Hugging Face BlogAI 评分4848 BigCodeArena：通过代码执行端到端评判代码生成
Hugging Face 推出 BigCodeArena，这是首个通过实际执行来评估代码生成模型的人类参与平台，支持 10 种语言和 8 种执行环境，可实时运行模型生成的代码并投票。平台自 2025 年 2 月上线以来已收集超 14,000 段对话、4,700+ 条偏好投票，覆盖 10 个前沿 LLM，o3-mini 与 o1-mini 在 Elo 排名中稳居第一梯队。
Hugging Face BlogAI 评分4040 Hugging Face 推出 RTEB：面向真实场景的检索嵌入基准测试
Hugging Face 发布 Retrieval Embedding Benchmark（RTEB）beta 版，用公开与私有数据集混合的方式评估嵌入模型的真实检索泛化能力。该基准覆盖 20 种语言，聚焦法律、医疗、代码、金融等企业领域，默认榜单指标为 NDCG@10，私有数据集由 MTEB 维护者评测，部分模型在私有集上出现明显性能下滑。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布 Gaia2 智能体基准与 ARE 研究环境
Hugging Face 发布 GAIA 的后继智能体基准 Gaia2，并开源配套的 Meta Agents Research Environments（ARE）框架，用于运行、调试和评测智能体。
推荐理由：GAIA 后继基准 Gaia2 转向读写与噪声环境，配套 ARE 框架可复现评测，便于对照各家模型在真实任务上的差距。
Hugging Face BlogAI 评分3333 Hugging Face 发布 TextQuests：LLM 玩文字冒险游戏表现如何？
Hugging Face 推出 TextQuests 基准，基于 25 款经典 Infocom 交互式文字游戏，测试 LLM 作为智能体的长上下文推理与探索学习能力。