AI 可解释性是否接近突破?一篇新文章让研究者意见分裂
The Decoder 报道,一篇关于机制可解释性的新文章在研究者中引发分歧。文章作者 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元,认为它其实是 V 形检测器,并非叠加的例证;他提出递归泛化概念,并给出初步数据,称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能,仅 2% 到 4% 无法解释。
The Decoder 报道,一篇关于机制可解释性的新文章在研究者中引发分歧。文章作者 Cammarata 重新解读了 InceptionV1 中著名的猫脸与汽车神经元,认为它其实是 V 形检测器,并非叠加的例证;他提出递归泛化概念,并给出初步数据,称在 Qwen3-32B 中约 90% 的神经元极点只有一个主要功能,仅 2% 到 4% 无法解释。
Anthropic 的 Andrej Karpathy 把大语言模型用户分成四个层级:约 60 亿人几乎没接触过 LLM,10 至 20 亿人把免费版聊天产品当作更好的 Google 搜索,约 2000 万数学和编码领域的专业用户已看到智能体完成过去需要数周乃至数月的复杂项目,而约 5000 人能接触内部前沿系统,看到数千个智能体协作数周推进软件、攻防、科学和数学前沿。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在 Latent Space 的一场对谈中指出,AlphaFold 的突破只是开始,蛋白质结构预测远未解决,蛋白质动力学与无序区域仍是静态结构预测的盲区。
神经科学家 Paul Cisek 提出,大脑并非图灵机式的信息处理器,而是进化而来的反馈控制系统,用棒球接高飞球说明:人靠"保持球在视野中固定位置"的简单启发式行动,而非计算弹道。作者据此认为,AI 如同认知层面的垃圾食品,迎合当下却损害人类数千年演化出的认知系统。
前 Google DeepMind 研究员指出,LLM 靠逐个预测 token 生成答案,其链式推理仍由同一套 next-token 预测完成,缺乏可检视的持久认知状态、知识与推理的分离,且思维链常是事后编造。他认为真正的机器推理应借鉴 AlphaGo 的搜索架构,维护显式的认知状态。
MIT 研究者 Alex Zhang 在 Latent Space 播客中讲述其从 GPU Mode、KernelBench 到 Recursive Language Models(RLM)的研究路径,并称基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的方案,早于 OpenAI 的 Astra。
Import AI 第 474 期关注 Michael Levin 提出的"柏拉图式心智空间"假说,认为心智是非物理模式,身体与机器只是其进入物理世界的接口。同期内容还涉及在太空部署 TPU,以及智谱启动一个"外层 RSI 循环"。
伯克利 AI 研究团队梳理了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并行子任务、生成多少并发线程以及如何协调。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等方法,指出多数方案仍由外部固定并行结构,而不同问题需要不同并行度。
AlphaGo 成为首个击败围棋世界冠军的 AI 系统十周年,其“Move 37”展示了 AI 超越模仿人类、发现全新策略的能力。这一突破直接催生了 AlphaGo Zero、AlphaZero,以及破解蛋白质折叠难题的 AlphaFold 2,后者已向全球 3 百万研究人员免费开放 2 亿个蛋白质结构。