Google 研究:用贝叶斯教学让 LLM 学会概率推理
Google Research 提出"贝叶斯教学"方法,通过监督微调让 LLM 模仿贝叶斯模型的预测,从而学会按贝叶斯方式推理。在五轮模拟航班推荐任务中,未经训练的 LLM 表现显著逊于最优贝叶斯助手,且往往在单次交互后性能就停滞;而贝叶斯教学不仅提升该任务表现,还能泛化到其他任务。
Google Research 提出"贝叶斯教学"方法,通过监督微调让 LLM 模仿贝叶斯模型的预测,从而学会按贝叶斯方式推理。在五轮模拟航班推荐任务中,未经训练的 LLM 表现显著逊于最优贝叶斯助手,且往往在单次交互后性能就停滞;而贝叶斯教学不仅提升该任务表现,还能泛化到其他任务。
Google DeepMind 推出 Gemini 3.1 Flash-Lite,定位为 Gemini 3 系列中速度最快、成本最低的模型,即日起通过 Gemini API 在 Google AI Studio 和 Vertex AI 面向开发者预览。
推荐理由:官方给出价格、速度与基准数据,可据此判断高并发场景下是否值得替换现有轻量模型。
OpenAI 公开了其 AI 模型针对 First Proof 数学挑战的证明尝试,用于测试模型在专家级问题上的研究级推理能力。该挑战聚焦研究级数学推理,OpenAI 未披露具体模型名称与成绩。
Google DeepMind 发布 Gemini 3.1 Pro,定位为面向复杂任务的核心推理升级,在 ARC-AGI-2 上取得 77.1% 的验证分数,超过 3 Pro 推理性能的两倍。
推荐理由:官方给出 ARC-AGI-2 上 77.1% 的验证分数与 3 Pro 的对比,可据此判断核心推理能力的提升幅度。
OpenAI 发布预印本,显示 GPT-5.2 为胶子振幅提出一个新公式,随后由 OpenAI 与学术合作者完成形式化证明与验证。
推荐理由:OpenAI 与学术合作者披露 GPT-5.2 提出胶子振幅新公式并被形式化证明,可观察模型在理论物理推导中的角色。
Google DeepMind 发布 Gemini 3 Deep Think 重大升级,这一专用推理模式面向科学、研究与工程难题。
推荐理由:官方给出 Deep Think 在 HLE、ARC-AGI-2、Codeforces 等基准上的具体成绩与开放入口,可据此判断其科研推理定位。
Google DeepMind 发布两篇论文,介绍由 Gemini Deep Think 驱动的数学研究智能体(内部代号 Aletheia)在数学、物理和计算机科学专业研究问题上的表现。
推荐理由:DeepMind 公开了 Gemini Deep Think 在数学与理论计算机科学研究中的两篇论文,读者可了解其智能体工作流与已产出的具体成果。
Google Research 提出 Sequential Attention,用贪心选择机制在单次训练中顺序、自适应地挑选最佳组件加入模型,避免传统贪心算法带来的数量级训练开销。该方法把子集选择直接嵌入模型训练,可处理大规模 ML 模型,并在多个神经网络基准上取得 SOTA,同时支持特征选择、嵌入维度调整与权重剪枝。
Google Research 在 EMNLP 2025 发表的论文提出一种分解式工作流,先由小多模态 LLM 逐屏总结用户交互,再从摘要序列中提取意图,在移动端和网页轨迹上均优于 CoT 提示和端到端微调。该方法用 Gemini 1.5 Flash 8B 即达到 Gemini 1.5 Pro 的相当效果,成本与速度仅为后者一小部分,适用于端侧部署。
微软 unilm 团队发布 Differential Transformer V2(DIFF V2),通过增加 query 头但保持 KV 头数量不变,使解码速度与标准 Transformer 持平,且不再需要自定义注意力核。
推荐理由:微软团队给出 DIFF V2 的注意力实现与消融对比,读者可据此判断差分注意力在解码速度与训练稳定性上的取舍。
NVIDIA 发布 Cosmos Reason 2,一款面向物理 AI 的开源推理视觉语言模型,在 Physical AI Bench 和 Physical Reasoning 榜单上位列开源模型第一。
推荐理由:NVIDIA 官方发布 Cosmos Reason 2,给出 2B/8B 规格、256K 上下文与多项评测提升,可据此判断物理 AI 视觉推理的可用边界。
Hugging Face 发布 Falcon-H1-Arabic 阿拉伯语模型家族,含 3B、7B、34B 三个规模,采用 Mamba 与 Transformer 注意力并行的 Falcon-H1 混合架构。
Google DeepMind 与 Google Research 回顾 2025 年 8 大研究突破,模型方面从 3 月 Gemini 2.5 到 11 月 Gemini 3、12 月 Gemini 3 Flash 相继发布,Gemini 3 Pro 登顶 LMArena 并在 MathArena Apex 取得 23.4% 的 SOTA。
Google Research 回顾 2025 年成果:Gemini 3 成为其最强、事实性最高的 LLM,在 SimpleQA Verified 和与 Google DeepMind、Kaggle 联合发布的新 FACTS 基准上达到 SOTA;Gemma 扩展至 140 多种语言。
OpenAI 推出面向思维链可监控性的新框架与评测套件,覆盖 24 种环境下的 13 项评估。结果显示,监控模型内部推理远比仅监控输出更有效,为 AI 系统能力提升后的可扩展控制提供了可行路径。
Google DeepMind 发布 Gemini 3 Flash,将 Gemini 3 的推理能力与 Flash 级别的延迟、效率和成本结合,定价为每 100 万输入 token 0.50 美元、每 100 万输出 token 3 美元。
推荐理由:官方给出 Gemini 3 Flash 的基准分数、定价与上线渠道,可据此判断它在速度与成本上的取舍。
OpenAI 发布 FrontierScience 基准,用于测试 AI 在物理、化学和生物学领域的推理能力,衡量其向真实科学研究迈进的进展。
Google Research 为 ACM 计算理论研讨会 STOC 2026 开发了实验性论文预审工具 Paper Assistant Tool(PAT),基于 Gemini 2.5 Deep Think 的推理扩展方法,在投稿后 24 小时内给出结构化反馈,包括论文贡献摘要、潜在错误与改进建议、以及笔误修正。
推荐理由:Google 在 STOC 2026 试用的论文预审工具给出了作者反馈数据,可观察 AI 辅助数学证明的实际边界。
OpenAI 发布 GPT-5.2,称其为目前数学与科学能力最强的模型,在 GPQA Diamond 和 FrontierMath 等基准上刷新 SOTA。官方表示这些提升已转化为实际研究进展,包括解决一个开放理论问题并生成可靠的数学证明。
推荐理由:官方给出 GPT-5.2 在数学与科学基准上的成绩,并说明这些提升如何落到实际研究进展中。
Google Research 发布两篇论文,提出 Titans 架构与 MIRAS 理论框架,将 RNN 的速度与 Transformer 的精度结合,实现测试时记忆。
推荐理由:Google Research 提出 Titans 架构与 MIRAS 框架,用深度神经网络做长期记忆模块,在超长上下文任务上超过 GPT-4。
Intel AI Software Group 推出 DeepMath,一个基于 Qwen3-4B Thinking、用 GRPO 微调的数学推理 Agent,通过 smolagents 生成 Python 片段并在沙箱执行,将输出长度最多缩短 66%,同时提升准确率。
Hugging Face 发布博客,从 attention 机制与 KV caching 出发,推导出 continuous batching 这一推理优化技术。该方法通过并行处理多个对话、完成即换出,最大化吞吐量,适用于高负载 LLM 服务场景。文章指出 attention 是 token 间唯一交互之处,其计算复杂度随序列长度呈平方增长。
UCLA 教授 Ernest Ryu 与 GPT-5 共同解决了一个优化理论中的关键问题,展示了 AI 在加速数学发现中的作用。
OpenAI 公布首批研究案例,展示 GPT-5 在数学、物理、生物学和计算机科学领域加速科学进展。这些案例呈现 AI 与研究人员如何协作生成证明、发现新见解,并改变科学发现的速度。
ServiceNow 将 15B 推理模型改造为 Mamba 混合架构,旗舰 Apriel-H1-15b-Thinker-SFT 在 76.8B token 训练后实现 2.1 倍吞吐,MATH500 从 0.90 升至 0.92、MTBench 从 8.30 升至 8.58,GSM8k、GPQA、AIME24 略有下降。
OpenAI 正在探索机制可解释性,以理解神经网络如何进行推理。其提出的稀疏模型方法有望让 AI 系统更透明,并支持更安全、更可靠的行为。
Google Quantum AI 与斯坦福、MIT、Caltech 合作在 Nature 论文中提出量子算法 Decoded Quantum Interferometry(DQI),利用量子干涉把优化问题转化为解码问题,从而借助已有的解码算法求解。
推荐理由:Google Quantum AI 提出把优化问题转成解码问题的量子算法,并给出 OPI 问题上的量子与经典算力差距估算。
Google Research 在 NeurIPS 2025 论文《Nested Learning: The Illusion of Deep Learning Architectures》中提出 Nested Learning,把模型架构与优化算法视为同一套相互嵌套、并行优化的多层级学习问题,每层有自己的上下文流和更新频率。
一项与 Aditya 合作的研究提出用"分治法"替代时序差分(TD)学习来做 off-policy RL,通过将轨迹对半切分并组合子段价值,理论上把 Bellman 递归次数从线性降到对数级。该方法在 goal-conditioned RL 中利用三角不等式构造"传递式"Bellman 更新,据称是首个将分治价值学习扩展到高复杂度任务的工作。目前仍待解决的问题是如何选取最优子目标 w。
Writer 开源 Palmyra-mini 系列三款模型,参数规模 1.5B-1.7B,包括非思考基础版 palmyra-mini 及两个思维链推理变体 palmyra-mini-thinking-a 和 palmyra-mini-thinking-b。
Hugging Face 博客介绍了为支持 OpenAI gpt-oss 系列而在 transformers 中做的一系列升级,包括可从 Hub 下载的零构建内核、MXFP4 量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与分页注意力,以及更快的模型加载。
Kimina Prover 团队开源了 kimina-prover-rl 训练管线,基于 DeepSeek-R1 式"先推理后生成"范式,用于 Lean 4 形式化定理证明,并完全兼容 Verl 框架。
Hugging Face 发布 TextQuests 基准,基于 25 款经典 Infocom 互动小说游戏,用于评估 LLM 作为自主智能体的长上下文推理与探索学习能力。
OpenAI 在 API 平台推出 GPT-5,主打高推理性能、面向开发者的新控制项,以及在真实编码任务上的领先结果。
推荐理由:OpenAI 在 API 平台上线 GPT-5,开发者可据此了解新模型在推理与真实编码任务上的定位。
OpenAI 发布开源权重模型家族 gpt-oss,包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b,均为 MoE 架构并采用 MXFP4 4-bit 量化,以 Apache 2.0 许可发布。
推荐理由:Hugging Face 汇总了 gpt-oss 两个开源模型的参数、量化方案与各推理框架的适配细节,便于判断本地部署门槛。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重语言模型,采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同规模开放模型,具备较强的工具调用能力,并针对消费级硬件的高效部署做了优化。
推荐理由:OpenAI 开源两款权重模型并给出 Apache 2.0 许可,读者可据此判断本地部署与工具调用的可选空间。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两个开放权重推理模型,采用 Apache 2.0 许可并适用 gpt-oss 使用政策。
推荐理由:OpenAI 以 Apache 2.0 开放两个推理模型权重,读者可据此了解其开放范围与使用条件。
Mistral 为 Le Chat 上线一批新功能,包括预览版 Deep Research 模式、由新语音模型 Voxtral 驱动的语音模式、由推理模型 Magistral 支持的多语言推理、用于整理对话的 Projects,以及与 Black Forest Labs 合作的高级图像编辑。
推荐理由:官方一次性公布 Le Chat 的深度研究、语音、推理与图像编辑多项能力,可据此判断其产品路线与可用入口。
Numina 与 Kimi 团队发布定理证明模型 Kimina-Prover-72B,基于 Qwen2.5-72B 并用 Kimi k1.5 的 RL 流程训练,同时开源 8B 和 1.7B 蒸馏版本。
Hugging Face 发布 SmolLM3,一个完全开源的 3B 模型,在 11T token 上训练,支持 think/no_think 双模式推理、6 种语言和最长 128k 上下文。该模型在 3B 规模上超越 Llama-3.2-3B 和 Qwen2.5-3B,并与 Qwen3、Gemma3 等 4B 模型竞争。团队同时公开了预训练、中训练、后训练及合成数据生成的完整配方和数据集。
推荐理由:Hugging Face 公开了 SmolLM3 的完整训练配方与数据配比,读者可据此复现或改进 3B 级小模型。