跳到正文

#评测/基准

今日 2 条
今天10月20日周二
10月18日周日
10月17日周六
10月16日周五
10月15日周四
  1. The Decoder76

    GPT-6-Astra 在 TheoPhysEval 上解出 50 道物理题中的 49 道,每题约 2.40 美元

    一项新基准让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元,整轮约 116 美元。

    推荐理由:这份基准把理论物理的常规计算题交给多个商用智能体,并给出成本与错题归因,可用来判断智能体在科研流程中的实际位置。

10月14日周三
10月12日周一
10月9日周五
10月8日周四
10月7日周三
  1. Simon Willison22

    Mistral Large 4 发布

    Mistral 推出 Mistral Large 4,模型标识为 mistral/mistral-large-4,可通过 llm 命令行工具调用。Simon Willison 用它与其他前沿模型同题生成 SVG 进行对比测试。

  2. Microsoft Research22

    Microsoft 研究:AI 评测如何暴露传统 benchmark 之外的“意外失败”

    Microsoft 伙伴研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。

10月6日周二
  1. Simon Willison22

    Qwen3.8 27B 用英文单词做加法的基准测试

    本地 Qwen3.8-27B-Q4_K_M.gguf 在禁用推理时做英文单词加法仅得 23.57% 数值准确率,格式合规率 96.17%,但一至三位数操作数准确率 97.04%,十至十三位数骤降至 6.44%。启用推理后 169 次配对测试中答对 167 次。该实验在 DGX Spark 上复现 GPT-4o 两年前的同类测试。

10月3日周六
  1. The Decoder52

    LEGO-Anything 用编码智能体从单张照片生成 Blender 3D 场景,并发布 LEGO-Bench 基准

    研究团队提出 Image-to-Code 方法,让编码智能体从单张照片迭代编写可执行的 Blender 程序,输出可运行、可编辑、可查询的 3D 场景。为评测效果,团队构建 LEGO-Bench,包含来自 104 个室内外场景的 208 张图像和 443 个注册资产,从有效性、几何精度和外观相似度三个维度打分。

9月30日周三
9月23日周三
9月22日周二
9月16日周三
  1. NVIDIA Blog62

    NVIDIA Vera Rubin NVL72 首次亮相 MLPerf Inference v6.1 并取得领先性能

    NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览结果,在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上最高达 2.5 倍。

    推荐理由:MLPerf Inference v6.1 结果给出 Vera Rubin NVL72 与 GB300 NVL72 的吞吐、扩展效率和软件优化数据,可用于比较推理基础设施的长期经济性。

9月2日周三
8月21日周五
8月17日周一
8月13日周四
  1. Microsoft Research41

    MindTopo 基准揭示多模态大模型的空间推理短板

    Microsoft Research 推出 MindTopo 基准,用于评测多模态大模型在连通性、封闭、顺序、分离和打结五类拓扑关系上的推理与规划能力。测试显示,模型在静态图像识别上表现明显好于交互式规划任务,且两者均远低于人类水平;失败多出现在规划阶段而非感知阶段,模型在场景变化中会丢失结构关系或提出违反物理约束的动作。图像与视频生成仅在单帧内保留关系时偶有帮助,跨多步操作仍不可靠。

8月11日周二
8月10日周一
  1. Import AI30

    Import AI 468:23 条 RSI 政策建议、PostTrainBench+,以及信任与透明度如何影响 AI 竞赛

    智库 IFP 提出 23 条“低后悔”政策建议,分属 7 个类别,用于帮助政策制定者应对 AI 研发进一步自动化的风险。MIT 与 Columbia 的论文 Racing to Ruin 用博弈模型分析企业竞速,认为透明度和把对手视为可信理性行为体是实现协调减速的两个关键变量。本期还介绍了 PostTrainBench+ 以及一篇关于智能机器与机器人身体的虚构短篇。

7月29日周三
7月27日周一
7月16日周四
7月15日周三