OpenAI 分析指出 SWE-Bench Pro 编码评测存在可靠性问题
OpenAI 发布新分析，指出热门编码基准 SWE-Bench Pro 存在可靠性问题，引发对 AI 模型评测准确性的担忧。
#评测/基准
#评测/基准
今日 2 条OpenAI NewsAI 评分3838
Import AIAI 评分5858 Import AI 464：Fable 编写 GPU kernel，AI 自动化与模拟计算
Import AI 464 汇总多项进展：Fable 在 KernelBench-Mega 上写出首个 megakernel，以 CUDA 代码在 RTX PRO 6000 Blackwell 上实现 18.71X 加速，对比 Claude Opus 4.8 的 14.4X、GLM-5.2 的 11.14X 和 GPT 5.5 的 4.34X。
Hugging Face BlogAI 评分4747 ScarfBench：面向企业级 Java 框架迁移的 AI 智能体基准测试
Hugging Face 发布 ScarfBench，一个评估 AI 智能体跨框架迁移企业级 Java 应用的开源基准，覆盖 Spring、Jakarta EE、Quarkus 三大生态，含 34 个应用、102 个框架实现、204 项迁移任务和 1331 个专家测试。
OpenAI NewsAI 评分2828 OpenAI 推出 GeneBench-Pro 基准
OpenAI 发布 GeneBench-Pro，一个用复杂真实数据集测试 AI 在基因组学、生物学和科研领域表现的新基准。
Hugging Face Blog精选AI 评分6262 Hugging Face 模型页展示 Every Eval Ever 评测结果
Every Eval Ever（EEE）与 Hugging Face Community Evals 现已互通，评测结果可交叉发布并链接回完整记录。
推荐理由：原文给出 EEE 与 Community Evals 互通的转换器和审核流程，读者可据此判断评测结果如何统一上报与溯源。
Hugging Face BlogAI 评分4242 Hugging Face 与 Treble Technologies 推出 FFASR 远场 ASR 排行榜
Hugging Face 与 Treble Technologies 发布首个开放、社区驱动的远场 ASR 评测榜 FFASR，覆盖 14 个模拟房间，并设有 Lab Measured 与 Lab Simulated 两列做 sim-to-real 验证。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 agent-eval：用自有工具评测开源模型的智能体能力
Hugging Face 发布 agent-eval 评测工具，用 transformers 作为案例，在 bare、clone、skill 三种配置下跨模型和版本测量智能体完成任务所需的轮次、token 和错误率。
推荐理由：用 transformers 做案例，展示如何按模型规模和版本评测工具对智能体的友好度，并给出可复用的评测工具。
OpenAI NewsAI 评分3434 OpenAI 推出 LifeSciBench：面向生命科学研究任务的专家评测基准
OpenAI 发布 LifeSciBench，一个由专家撰写并评审的基准，用于评估 AI 系统处理真实生命科学研究任务与决策的能力。该基准聚焦现实科研场景中的任务与判断，而非通用问答。
Import AIAI 评分3232 Import AI 461：Sequent 称"对齐尚未走上正轨"、FrontierCode 与合成研究实习生
英国 AI Security Institute 对齐团队与 Timaeus 联合成立非营利研究机构 Sequent，认为"对齐尚未走上正轨"，计划两年内扩至 40-80 名全职员工，初期募资 1 亿至 1.5 亿美元，研究方向涵盖可扩展监督、学习理论、博弈论与 personas。
Google DeepMind精选AI 评分7575 Google DeepMind 回顾 AlphaEvolve 一年成果：从基因组学到 TPU 设计
Google DeepMind 发布 AlphaEvolve 推出一周年的成果汇总，这款由 Gemini 驱动的编码智能体已从试点进入 Google 基础设施核心环节。
推荐理由：官方汇总 AlphaEvolve 一年来在科研、基础设施与商业场景的落地数据，可据此判断编码智能体的实际边界。
Hugging Face BlogAI 评分3434 Hugging Face 为 Open ASR Leaderboard 引入私有数据集以抵御 benchmaxxing
Hugging Face 联合 Appen Inc. 和 DataoceanAI 为 Open ASR Leaderboard 引入高质量私有英文 ASR 数据集，覆盖多口音的朗读与对话语音，以防止 benchmaxxing 和测试集污染。榜单默认平均 WER 仍仅基于公开数据集计算，用户可通过开关选择是否纳入私有数据集。该榜单自 2023 年 9 月上线以来访问量已超 710K 次。
Hugging Face BlogAI 评分2424 QIMMA قِمّة：Hugging Face 推出质量优先的阿拉伯语 LLM 排行榜
Hugging Face 发布 QIMMA قِمّة，一个先验证基准质量再评测模型的开源阿拉伯语 LLM 排行榜，整合 14 个来源基准的 109 个子集、超 52,000 条样本，覆盖 7 大领域且 99% 为原生阿拉伯语内容。
Hugging Face BlogAI 评分4141 VAKRA 基准解析：AI 智能体的推理、工具调用与失败模式
Hugging Face 发布 VAKRA 基准，用于评估 AI 智能体在企业级环境中的推理与行动能力，覆盖 62 个领域、8,000+ 本地托管 API，任务需 3-7 步推理链。
Google ResearchAI 评分4848 Google 推出 Vantage：用生成式 AI 评估未来技能
Google 在 Google Labs 上线研究实验 Vantage，用生成式 AI 构建模拟对话环境，评估高中与大学生面向未来的技能，目前提供英文版并可注册。Vantage 与纽约大学合作开发，由 Executive LLM 动态引导对话、AI Evaluator 依据评分量表打分，188 名 18-25 岁美国测试者的研究显示其评分与人类专家一致度接近专家间一致度。
Google ResearchAI 评分4040 Google Research 发布 LLM 行为倾向对齐评估框架
Google Research 提出一套评估 LLM 行为倾向与人类共识对齐程度的框架，将 IRI、ERQ 等心理问卷改编为情境判断测试（SJT），在 25 个 LLM 上测试共情、情绪调节等四类特质。
Google ResearchAI 评分3131 Google Research 研究：AI 评测需要多少标注者才够？
Google Research 在《Forest vs Tree: The (N, K) Trade-off in Reproducible ML Evaluation》中研究了评测条目数与每条目标注者数的权衡，发现常用的每条目 1-5 名标注者往往不足，反映人类意见分歧常需超过 10 名标注者。
Hugging Face BlogAI 评分5151 ServiceNow 发布语音智能体端到端评测框架 EVA
ServiceNow 在 Hugging Face 发布 EVA，一个面向对话式语音智能体的端到端评测框架，同时给出 EVA-A（准确率）和 EVA-X（体验）两个分数，并称是首个联合评估任务成功与对话体验的框架。
Google DeepMindAI 评分4646 Google DeepMind 发布 AGI 认知框架，并启动 Kaggle 黑客松构建评测
Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》，提出用认知科学衡量 AGI 进展的框架，涵盖感知、生成、注意力、学习、记忆、推理、元认知、执行功能、问题解决和社会认知 10 项认知能力，并配套三阶段评测协议。
Google ResearchAI 评分4040 Google 在 PNAS 发表研究：用高温超导问题测试 LLM 世界模型
Google 与康奈尔大学合作在 PNAS 发表研究，让 GPT-4o、Perplexity、Claude 3.5、Gemini Advanced Pro 1.5、NotebookLM 和一套自建 RAG 系统回答 67 道高温超导专家级问题，由 12 位国际专家按 6 项指标盲评打分。
OpenAI NewsAI 评分3131 OpenAI 与太平洋西北国家实验室合作，推出 DraftNEPABench 加速联邦许可审批
OpenAI 与太平洋西北国家实验室联合推出 DraftNEPABench，用于评估 AI 编程智能体加速联邦许可审批的能力。该基准显示，NEPA 文件起草时间最多可缩短 15%，有望推动基础设施审查现代化。
OpenAI NewsAI 评分4242 OpenAI 为何不再评估 SWE-bench Verified
OpenAI 宣布不再评估 SWE-bench Verified，原因是该基准日益受到污染，且无法准确衡量前沿编码能力。其分析指出该基准存在测试缺陷与训练数据泄漏问题，并推荐改用 SWE-bench Pro。
Hugging Face BlogAI 评分4747 IBM 与 UC Berkeley 用 ITBench 和 MAST 诊断企业级智能体失败原因
IBM Research 与 UC Berkeley 用 MAST 失败分类法分析了 310 条 ITBench SRE 执行轨迹，覆盖 Gemini-3-Flash、Kimi-K2 和 GPT-OSS-120B 三类模型。
OpenAI NewsAI 评分3838 OpenAI 与 Paradigm 推出 EVMbench，评测 AI 智能体发现与利用智能合约漏洞能力
OpenAI 与 Paradigm 联合推出 EVMbench，用于评测 AI 智能体检测、修补和利用高危智能合约漏洞的能力。该基准聚焦高严重性漏洞的发现、修复与攻击三个环节。
Hugging Face Blog精选AI 评分6262 Hugging Face 推出 Community Evals，让基准数据集托管排行榜
Hugging Face 在 Hub 上线 Community Evals，基准数据集仓库可注册为 benchmark 并在数据集卡片展示排行榜，模型仓库用 .eval_results/*.yaml 存放评测分数。
推荐理由：Hugging Face 把评测结果从黑箱榜单搬到 Hub 上公开聚合，读者可了解评测透明化的一种新做法。
Hugging Face BlogAI 评分4242 H Company 发布 Holo2-235B-A22B Preview，UI 定位刷新 SOTA
H Company 发布迄今最大的 UI 定位模型 Holo2-235B-A22B Preview，在 ScreenSpot-Pro 上以 78.5% 刷新 SOTA，OSWorld G 达 79.0%，模型已在 Hugging Face 开放。该模型单步在 ScreenSpot-Pro 上达 70.6%，配合智能体式定位可在 3 步内迭代提升精度，各尺寸 Holo2 模型相对提升 10-20%。
Hugging Face BlogAI 评分2222 Alyah ⭐️：面向阿拉伯语 LLM 阿联酋方言能力的稳健评测基准
Hugging Face 博客介绍阿联酋方言评测基准 Alyah，含 1,173 条由阿联酋母语者手工采集的样本，每题四选一。团队评测了 54 个语言模型（23 个基座、31 个指令微调），覆盖 Jais、Allam、Qwen、LLaMA、Fanar、AceGPT 等，基座模型中 google/gemma-3-27b-pt 以 74.68 准确率居首。
Hugging Face BlogAI 评分3434 AssetOpsBench：弥合 AI 智能体基准与工业现实之间的差距
Hugging Face 发布 AssetOpsBench，一个面向工业资产全生命周期管理的智能体评测基准，包含 2.3M 传感器遥测点、140+ 场景、4.2K 工单和 53 种结构化故障模式。
Hugging Face BlogAI 评分4141 NVIDIA 发布 Nemotron 3 Nano 30B A3B，用 NeMo Evaluator 公开完整评测配方
NVIDIA 发布 Nemotron 3 Nano 30B A3B，并公开其完整评测配方，基于开源库 NeMo Evaluator 构建，任何人可复跑评测流程并独立核查结果。
OpenAI NewsAI 评分3838 OpenAI 推出 FrontierScience 基准，评估 AI 科研推理能力
OpenAI 发布 FrontierScience 基准，用于测试 AI 在物理、化学和生物学领域的推理能力，衡量其向真实科学研究迈进的进展。
Google DeepMindAI 评分4040 Google DeepMind 与 Kaggle 推出 FACTS Benchmark Suite，系统评估大语言模型事实准确性
Google DeepMind 联合 Kaggle 发布 FACTS Benchmark Suite，在原有 FACTS Grounding 基础上新增 Parametric、Search、Multimodal 三项基准，并将 Grounding 升级至 v2，共含 3,513 个公开样例。
Google ResearchAI 评分3636 Google 发布 MSEB：面向听觉智能的大规模声音嵌入基准
Google Research 在 NeurIPS 2025 发布 Massive Sound Embedding Benchmark（MSEB），用于标准化评测声音嵌入模型的八项听觉能力，涵盖检索、推理、分类、转录、分割、聚类、重排与重建。
Hugging Face BlogAI 评分3434 Hugging Face Open ASR Leaderboard 新增多语言与长音频赛道，并发布 60+ 模型趋势预印本
Hugging Face 的 Open ASR Leaderboard 新增多语言与长音频转录赛道，并发布覆盖 60+ 模型、18 家机构、11 个数据集的 ASR 趋势预印本。Conformer 编码器加 LLM 解码器在英语转录准确率上领先，CTC/TDT 解码器吞吐量快 10–100 倍；多语言仍以 Whisper Large v3 为强基线，长音频则闭源系统暂时领先。
OpenAI NewsAI 评分1515 OpenAI 解读 evals 如何推动企业 AI 进入下一阶段
OpenAI 发文阐述 evals 如何帮助企业定义、衡量并改进 AI 表现，从而降低风险、提升生产力并形成战略优势。文章面向企业场景，说明 evals 在 AI 性能管理中的作用。
OpenAI NewsAI 评分2727 OpenAI 推出 IndQA：面向印度语言的 AI 评测基准
OpenAI 发布 IndQA，一个用于评估 AI 系统印度语言能力的新基准，覆盖 12 种语言和 10 个知识领域，由领域专家参与构建，重点考察文化理解与推理能力。
Hugging Face BlogAI 评分4848 BigCodeArena：通过代码执行端到端评判代码生成
Hugging Face 推出 BigCodeArena，这是首个通过实际执行代码来评估代码生成模型的人类参与平台，支持 10 种语言和 8 种执行环境，可实时运行模型生成的代码并投票。
Hugging Face BlogAI 评分3838 Hugging Face 推出 RTEB：面向真实场景的检索嵌入基准测试
Hugging Face 发布 Retrieval Embedding Benchmark（RTEB）beta 版，用公开与私有数据集混合的方式评估嵌入模型的真实检索准确率。RTEB 覆盖 20 种语言及法律、医疗、代码、金融等领域，默认榜单指标为 NDCG@10，私有数据集由 MTEB 维护者评测以防过拟合。
OpenAI NewsAI 评分4242 OpenAI 推出 GDPval：在 44 个职业的真实经济任务上评测模型表现
OpenAI 推出 GDPval，一个衡量模型在真实世界、有经济价值任务上表现的新评测，覆盖 44 个职业。该评测用于评估模型在实际工作任务中的能力，而非传统学术基准。
Hugging Face Blog精选AI 评分6262 Meta 发布 Gaia2 智能体基准与 ARE 研究环境
Meta 发布 GAIA 后续智能体基准 Gaia2，并开源配套的 Meta Agents Research Environments（ARE）框架，用于运行、调试和评测智能体。
推荐理由：GAIA 后续基准 Gaia2 与 Meta ARE 环境同时开源，读者可了解智能体在噪声、时间与歧义场景下的评测方式。
Hugging Face BlogAI 评分2222 FilBench：LLM 能否理解并生成菲律宾语？
Hugging Face 发布 FilBench 评测套件，覆盖 Tagalog、Filipino 和 Cebuano 三种菲律宾语言，包含文化知识、经典 NLP、阅读理解、生成四大类共 12 项任务，并已评测 20+ 个 SOTA LLM。
Hugging Face BlogAI 评分3535 TextQuests：LLM 玩文字冒险游戏表现如何？
Hugging Face 发布 TextQuests 基准，基于 25 款经典 Infocom 互动小说游戏，用于评估 LLM 作为自主智能体的长上下文推理与探索学习能力。