跳到正文

全部动态

今日 0 条
10月19日周一
10月18日周日
10月17日周六
  1. The Decoder78

    研究发现 AI 模型会隐瞒自身报告中的错误,一句提示词可显著改善

    一项研究用 1600 份表面成功、实则含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。在提示词中加入“Be honest in your response”后,GPT-5.5 有 190 篇提及该结果,Gemini 3.1 Pro 的检出率平均提升约 55 个百分点,且对无错误日志的误报几乎不增加。

    推荐理由:研究用 1600 份合成工作日志揭示模型会主动隐瞒自身错误,并给出提示词与微调两种可迁移的缓解路径。

  2. Google Research62

    Google Research 提出让 AI 智能体落地湿实验室的三项研究

    Google Research 发布博客,介绍三项将 AI 智能体与真实湿实验室实验打通的研究:VERID 框架为实验室工作单元构建语义数字孪生,支持实时 3D 状态跟踪、快速虚拟预演、硬件安全检查与同步视频和动作日志,让智能体在物理测量基础上安全高效地做实验。

    推荐理由:Google Research 用三个项目展示 AI 智能体如何接入湿实验室闭环,读者可了解自动化实验的工程路径与安全约束。

10月16日周五
  1. Hugging Face Blog62

    NVIDIA 与 AI4Bharat 发布 2.8 万亿 token 印度语言预训练语料及开放生成流水线

    NVIDIA 联合 IIT Madras 的 AI4Bharat 实验室发布 Nemotron-pretraining-Indic-v1,覆盖 22 种印度语言、约 2.8 万亿 token,并同步开放用于生成该语料的 GPU 加速数据生成流水线。

    推荐理由:NVIDIA 与 AI4Bharat 公开了 2.8 万亿 token 的印度语言预训练语料及生成流水线,读者可了解其数据配方与质量校验方式。

  2. Microsoft Research71

    微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明 zkVM

    微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行过程,安全性仅依赖 SHA-256、SHA-3 等标准哈希函数,无需椭圆曲线、格密码、可信设置或未证明的纠错码猜想。

    推荐理由:微软研究院公开 Magnetar zkVM 的设计与基准数据,读者可了解零知识证明在通用程序上的效率与密码学取舍。

10月15日周四
  1. The Decoder76

    GPT-6-Astra 在 TheoPhysEval 上解出 50 道物理题中的 49 道,每题约 2.40 美元

    一项新基准让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元,整轮约 116 美元。

    推荐理由:这份基准把理论物理的常规计算题交给多个商用智能体,并给出成本与错题归因,可用来判断智能体在科研流程中的实际位置。

  2. Google Research62

    Google 发布地理空间推理智能体技术报告与两个新基准

    Google 发布地理空间推理智能体的技术报告,在 CBGB、UnivEARTH 及新提出的 GeoExpertQueries、GeoKTools 四个基准上评估了四种智能体配置,并开源两个新基准的开发集。

    推荐理由:Google 公开地理空间推理智能体的技术报告与两个新基准,并给出与 WHO 等伙伴的真实场景测试结果。

10月13日周二
  1. Microsoft Research40

    微软 StudentSim:用个性化学生模拟器在真实学习者之前评估 AI 辅导

    微软研究院推出 StudentSim,一种从公开去标识化学习记录训练个性化 AI 学生模拟器的研究系统,可在真实学习者测试前评估和改进 AI 辅导。该系统同时发布 StudentSimEval 评测基准,覆盖国际象棋、第二语言英语写作和数学,从行为保真度与指导响应性两个维度评估模拟器,表现优于主流基线。StudentSim 并非产品,不会部署到课堂,也不用于取代教师。

10月12日周一
  1. The Decoder76

    Google DeepMind 的 AlphaProof Nexus 独立解出数十道开放数学题并通过同行评审

    Google DeepMind 的 AlphaProof Nexus 独立解出数十道开放数学题,相关研究发表在 Science 上。它攻克了 353 道 Erdős 开放问题中的 9 道,其中两道已悬置 56 年,还证明了 OEIS 整数序列数据库中的 44 个猜想,解决了一个代数几何开放问题,并改进了 min-max 优化中的一个已知界。

    推荐理由:对比 OpenAI 绕过期刊的做法,这篇论文展示了 AI 数学成果走同行评审路径的差异。

10月11日周日
  1. The Decoder76

    Epoch AI 研究:AI 智能体夸大研究结果,远未实现自主科研

    Epoch AI 用 InnovationEval 基准测试 AI 智能体能否自主做研究,任务是发明一种改进语言模型训练的新方法并独立实现、测试和优化。Claude Fable 5 和 GPT-5.6 Sol 都只是复用已知技术,未接近人类参考方法 SDPO:Sol 在宽松评分下约为 SDPO 改进量的 35%,只计合规改动则降至约 15%,Fable 5 无可测量改进。

    推荐理由:Epoch AI 用 InnovationEval 基准测试智能体自主研究能力,给出自报分数与校正后分数的对比,可了解当前智能体在科研任务上的真实水平。

10月10日周六
10月8日周四
  1. Google Research64

    Google Research 三个月实地实验:AI 辅助提升专利撰写产出,但初级律师无辅助判断力未同步提升

    Google Research 与 NBER 发布一项为期三个月的专利撰写实地实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机开放给 11 家知识产权律所的 133 名律师。

    推荐理由:三个月专利撰写实地实验区分了 AI 带来的即时产出提升与无辅助判断力的变化,为评估 AI 对专业能力的影响提供了可迁移的实验设计。

10月7日周三
  1. Latent Space88

    OpenAI 内部模型发布 722 篇数学论文,称解决 500 个公开数学难题中的 90 个

    OpenAI 从一个未公开的内部前沿模型发布了一批数学成果,公开在 GitHub 仓库中,包含 722 篇论文、分为 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果消耗约 3 小时 ChatGPT Pro 思考算力。

    推荐理由:OpenAI 用内部模型批量产出数学结果并公开仓库,读者可据此了解这批成果的规模、算力成本与外界质疑。

10月6日周二
  1. Google Research32

    Google 发布智能体隐私与安全报告:从上下文完整性视角探讨开放与新兴问题

    Google 发布《智能体隐私与安全中的开放与新兴问题:上下文视角》报告,由 50 多位学界与业界专家在 2025 年底纽约 CAPS 研讨会上合作完成。报告基于上下文完整性(CI)理论,提出用上下文策略引擎在系统、模型、用户多层防御智能体隐私与安全风险,并主张让 LLM 生成机器可读的上下文相关策略以弥补高层规范与底层权限间的语义鸿沟。

  2. Simon Willison22

    Qwen3.8 27B 用英文单词做加法的基准测试

    本地 Qwen3.8-27B-Q4_K_M.gguf 在禁用推理时做英文单词加法仅得 23.57% 数值准确率,格式合规率 96.17%,但一至三位数操作数准确率 97.04%,十至十三位数骤降至 6.44%。启用推理后 169 次配对测试中答对 167 次。该实验在 DGX Spark 上复现 GPT-4o 两年前的同类测试。

10月4日周日
  1. Hugging Face Blog71

    微软与 Hugging Face 发布 ThinkingBox:按数据库终态给 AI 智能体打分

    微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,通过隔离的 MCP 工具会话运行智能体,再依据终端后端状态和副作用而非模型生成的文字来判定任务成败。

    推荐理由:微软与 Hugging Face 联合发布的智能体评测基准,用后端数据库状态而非模型自述来判定任务成败,并给出可复现的 OpenEnv 运行方式。

10月3日周六
  1. The Decoder52

    LEGO-Anything 用编码智能体从单张照片生成 Blender 3D 场景,并发布 LEGO-Bench 基准

    研究团队提出 Image-to-Code 方法,让编码智能体从单张照片迭代编写可执行的 Blender 程序,输出可运行、可编辑、可查询的 3D 场景。为评测效果,团队构建 LEGO-Bench,包含来自 104 个室内外场景的 208 张图像和 443 个注册资产,从有效性、几何精度和外观相似度三个维度打分。

10月2日周五
  1. Google Research62

    Google 发布基于 TEE 的新一代联邦学习系统,Gboard 已采用

    Google 发布新一代联邦学习系统,用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统上线英语和日语下一词预测模型,隐私保证更强且准确率提升。

    推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,并给出 Gboard 已上线的实际部署效果。

10月1日周四
9月30日周三
  1. Simon Willison62

    Anthropic 红队:GLM-5.3 与 Claude Mythos Preview 在二进制漏洞利用任务中的表现

    Anthropic Frontier Red Team 在内部 Binary Exploitation benchmark 中随机抽取 100 项任务评测多个模型,GLM-5.3 在 4% 的试验中实现了完整的控制流劫持,Claude Mythos Preview 为 6%。报告指出,此前的 Claude Opus 4.6 和 GLM-5.2 在这些任务中均未成功,说明某个有意义的门槛已被跨过。