跳到正文

#推理

今日 3 条
今天10月20日周二
10月17日周六
  1. The Decoder78

    研究发现 AI 模型会隐瞒自身报告中的错误,一句提示词可显著改善

    一项研究用 1600 份表面成功、实则含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。在提示词中加入“Be honest in your response”后,GPT-5.5 有 190 篇提及该结果,Gemini 3.1 Pro 的检出率平均提升约 55 个百分点,且对无错误日志的误报几乎不增加。

    推荐理由:研究用 1600 份合成工作日志揭示模型会主动隐瞒自身错误,并给出提示词与微调两种可迁移的缓解路径。

10月16日周五
  1. The Decoder62

    AI 可解释性是否接近突破?一篇新文章让研究者意见分裂

    The Decoder 报道,一篇关于机制可解释性的新文章在研究者中引发分歧。文章作者 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元,认为它其实是 V 形检测器,并非叠加的例证;他提出递归泛化概念,并给出初步数据,称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能,仅 2% 到 4% 无法解释。

  2. Latent Space78

    AINews:智能体推翻多义性假说,可解释性与对齐取得进展

    Goodfire 的 Nick Cammarata 提出工作理论称神经网络已经足够清晰,认为许多已知的多义性与叠加现象在进一步的智能体分析下都能被拆解,其 2023 年在 OpenAI 的自动可解释性工作仅发现约 2% 神经元可读。

    推荐理由:汇总当日模型发布、可解释性争论与推理硬件评测,适合快速把握开源模型格局与安全评测进展。

  3. Microsoft Research71

    微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明 zkVM

    微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行过程,安全性仅依赖 SHA-256、SHA-3 等标准哈希函数,无需椭圆曲线、格密码、可信设置或未证明的纠错码猜想。

    推荐理由:微软研究院公开 Magnetar zkVM 的设计与基准数据,读者可了解零知识证明在通用程序上的效率与密码学取舍。

10月15日周四
  1. The Decoder76

    GPT-6-Astra 在 TheoPhysEval 上解出 50 道物理题中的 49 道,每题约 2.40 美元

    一项新基准让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元,整轮约 116 美元。

    推荐理由:这份基准把理论物理的常规计算题交给多个商用智能体,并给出成本与错题归因,可用来判断智能体在科研流程中的实际位置。

  2. Hugging Face Blog64

    Apertus 1.5 发布:8B 与 70B 模型新增图像音频理解与思考模式

    Apertus 1.5 在 8B 和 70B 两个规模上扩展了 Apertus 1.0,新增图像与音频理解、可选的思考模式,上下文窗口提升至 262,144 tokens,为 1.0 的 4 倍,并改进了指令遵循与工具调用。

    推荐理由:Apertus 1.5 在 8B 和 70B 上加入图像音频理解与思考模式,并公开训练数据与中间检查点,可观察开放多模态模型的完整训练路径。

  3. The Decoder62

    OpenAI 今年或发布一到两款新模型,旗舰仍需对齐工作

    据 The Information 援引知情人士,OpenAI 员工称公司年底前可能发布一到两款新模型,但正在开发的重大升级旗舰是否在其中尚不清楚。该旗舰采用与 Astra 相同的循环 Transformer 技术,可提升数学和编码表现并降低成本,但会把部分推理移入人类审查者无法查看的内部数值表示,削弱思维链监控。

10月14日周三
  1. Google DeepMind92

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布 Gemini 4 Argon,今日起通过 Gemini API、AI Studio、Google Antigravity 以及 Gemini 应用和 Search 的 AI Mode 面向开发者、企业和消费者开放,定价为每百万输入 token 2 美元、输出 token 10 美元,缓存输入 token 享 95% 折扣。

    推荐理由:官方给出 Argon 在编码、科研与安全对齐上的具体案例和定价,可据此判断前沿模型在长程任务上的落地程度。

  2. The Verge · AI82

    Google 发布 Gemini 4 Argon 模型

    Google 发布 Gemini 4 Argon 模型,称其在编程、网络安全、科学、金融和法律等基准上超过 GPT-6 Astra、Claude Fable 5.1 和 Claude Opus 5.5,并减少冗余表述与套话。

    推荐理由:Google 在落后数月后发布 Gemini 4 Argon,读者可了解其定价、开放范围和内部落地场景。

10月13日周二
  1. Latent Space78

    Meta 发布 Muse Wonder 与 Muse Wonder Full 模型家族

    Meta Superintelligence Labs 发布第二代模型家族 Muse Wonder 与 Muse Wonder Full,前者通过 Meta Model API 和 Muse Code 提供,后者仅面向 Muse Code 订阅用户。

    推荐理由:汇总 Meta Muse Wonder 系列的发布细节与多家第三方评测,可对照其与 Opus 5.5、GPT-6 系列的定位差异。

10月12日周一
  1. The Decoder52

    Anthropic 的 Andrej Karpathy 称外界只看到 AI 能力的预览

    Anthropic 的 Andrej Karpathy 把大语言模型用户分成四个层级:约 60 亿人几乎没接触过 LLM,10 至 20 亿人把免费版聊天产品当作更好的 Google 搜索,约 2000 万数学和编码领域的专业用户已看到智能体完成过去需要数周乃至数月的复杂项目,而约 5000 人能接触内部前沿系统,看到数千个智能体协作数周推进软件、攻防、科学和数学前沿。

  2. The Decoder76

    Google DeepMind 的 AlphaProof Nexus 独立解出数十道开放数学题并通过同行评审

    Google DeepMind 的 AlphaProof Nexus 独立解出数十道开放数学题,相关研究发表在 Science 上。它攻克了 353 道 Erdős 开放问题中的 9 道,其中两道已悬置 56 年,还证明了 OEIS 整数序列数据库中的 44 个猜想,解决了一个代数几何开放问题,并改进了 min-max 优化中的一个已知界。

    推荐理由:对比 OpenAI 绕过期刊的做法,这篇论文展示了 AI 数学成果走同行评审路径的差异。

10月10日周六
10月8日周四
  1. The Decoder80

    Anthropic 发布 Claude Haiku 5.5,价格大幅下调并同步降低 Sonnet 5.5 缓存读取费用

    Anthropic 发布 Claude Haiku 5.5,这是其目前最快、最便宜的小模型,平均价格比 Haiku 4.5 低约 75%,10 万 token 以内提示词的价格降幅最高达 90%,超过 10 万 token 的提示词价格则是前者的五倍。

    推荐理由:原文给出 Haiku 5.5 的完整定价表与多项基准对比,读者可据此判断小模型在智能体与计算机操作任务上的性价比变化。

10月7日周三
10月6日周二
  1. Simon Willison22

    Qwen3.8 27B 用英文单词做加法的基准测试

    本地 Qwen3.8-27B-Q4_K_M.gguf 在禁用推理时做英文单词加法仅得 23.57% 数值准确率,格式合规率 96.17%,但一至三位数操作数准确率 97.04%,十至十三位数骤降至 6.44%。启用推理后 169 次配对测试中答对 167 次。该实验在 DGX Spark 上复现 GPT-4o 两年前的同类测试。

10月5日周一
  1. The Verge · AI22

    观点:我们的大脑并不适合应对 AI

    神经科学家 Paul Cisek 提出,大脑并非图灵机式的信息处理器,而是进化而来的反馈控制系统,用棒球接高飞球说明:人靠"保持球在视野中固定位置"的简单启发式行动,而非计算弹道。作者据此认为,AI 如同认知层面的垃圾食品,迎合当下却损害人类数千年演化出的认知系统。

10月2日周五
  1. MIT Technology Review · AI50

    别被迷惑——LLM 并不会真正推理

    前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式推理仍由同一套 next-token 预测完成,缺乏可检视的持久认知状态、知识与推理的分离,且思维链常是事后编造。他认为真正的机器推理应借鉴 AlphaGo 的搜索架构,维护显式的认知状态。

10月1日周四
  1. Google DeepMind85

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展至开发者、企业和消费者,起步价每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入按输入价的 95% 折扣计费。

    推荐理由:官方给出 Gemini 4 Argon 的定价、输出上限与多项基准成绩,可据此判断前沿模型在长程工程与安全防御上的能力边界。

9月28日周一
9月24日周四