TypeSafe AI 发布 Jev,推出只输出概率决策的 System One 模型
TypeSafe AI 上周发布 Jev,这是其称为 System One 模型(作者更倾向叫决策模型)的首个实例:输入文本,输出对应类别的浮点数、是/否判断、评分及置信度。
TypeSafe AI 上周发布 Jev,这是其称为 System One 模型(作者更倾向叫决策模型)的首个实例:输入文本,输出对应类别的浮点数、是/否判断、评分及置信度。
TypeSafe AI 发布首个大型可编程模型 Jev,定位为面向代码消费的 System 1 模型,按每美元智能优化,名字取自杰文斯悖论。其核心创新是未发表的 RLCD(面向校准决策的强化学习),优化在 System 1 任务上给出认知诚实的概率,而非 RLHF 的人类偏好反馈或 RLVR 的可验证输出。
NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览结果,在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上最高达 2.5 倍。
推荐理由:MLPerf Inference v6.1 结果给出 Vera Rubin NVL72 与 GB300 NVL72 的吞吐、扩展效率和软件优化数据,可用于比较推理基础设施的长期经济性。
Google Research 提出 Retrieve-for-Train 框架,通过离线强化学习发现奖励对齐的查询扇出并编译为监督信号,再蒸馏进一个 53.9M 参数的扩散检索器,实现推理时单次前向的查询扇出,无需生成 CoT 推理 token。该方法基于 Gemma3-4B 和 Qwen3-4B 微调,旨在解决零样本 LLM 的复述坍缩与自回归延迟瓶颈,相关论文已被 ICML 2026 收录。
OpenAI 分享了一份 AI 生成的 Navier–Stokes 千禧年大奖难题解答,包含一份文字论述和一份 Lean 形式化证明。
IBM Granite 团队发布 Granite 4.2,这是其首个稠密 decoder-only 推理模型家族,包含 3B、8B、30B 三个规模,基于 Granite-4.1 基座后训练而来,全部采用 Apache 2.0 许可。
推荐理由:IBM 公开了 Granite 4.2 从预训练到多阶段 RL 的完整构建流程,可对照其分阶段课程与奖励设计。
Multiverse Computing 发布论文提出 Quantization-Aware Healing(QAH),直接从未压缩的原始模型蒸馏,而非从恢复后的 bfloat16 checkpoint 蒸馏。
推荐理由:论文给出压缩后 4-bit 模型反超自身 bfloat16 版本的基准对比,以及 QAH 与 QAT 的训练稳定性差异。
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下提升解码速度,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍。
推荐理由:Liquid AI 给出三个 LFM2.5 模型的 DSpark 草稿模型与实测加速数据,读者可据此判断端侧推理的可用性。
Import AI 第 469 期介绍了新基准 DiG-bench,用 70 款隐藏规则的游戏测试 AI 的探索与发现能力,Opus 5 和 Fable 5 搭配 Claude Code 表现最佳,但在最难的第 7 档任务上成功率仅 0.2,而人类可达 100%。
OpenAI 预览新的 API 服务档 Ultrafast,运行 GPT-5.6 Sol 时最高提速 14 倍,输出速度可达每秒 750 个 token。该服务由 Cerebras 提供算力支持。
推荐理由:OpenAI 公布 Ultrafast 服务档的速度指标与底层算力合作方,可据此判断高速推理的可用形态。
Microsoft Research 推出 MindTopo 基准,用于评测多模态大模型在连通性、封闭、顺序、分离和打结五类拓扑关系上的推理与规划能力。测试显示,模型在静态图像识别上表现明显好于交互式规划任务,且两者均远低于人类水平;失败多出现在规划阶段而非感知阶段,模型在场景变化中会丢失结构关系或提出违反物理约束的动作。图像与视频生成仅在单帧内保留关系时偶有帮助,跨多步操作仍不可靠。
Google Research 发布研究,提出知识画像(knowledge profiling)行为框架,同时测量大语言模型对事实的编码与召回,并配套推出包含 2,150 条维基百科事实、每条配 10 个问题的 WikiProfile 基准。
推荐理由:通过知识画像区分编码与召回失败,指出前沿模型的事实错误更多来自知识可及性而非知识缺失。
启用两个 API 设置后,GPT-5.6 在 ARC-AGI-3 基准上的得分提升至原来的三倍。这两个设置分别用于保留推理过程和启用压缩(compaction),在提高分数的同时也提升了效率。
Berkeley AI Research 与 IBM Research 将 K-Search 进化式内核搜索框架扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库适配 Apple Silicon。
推荐理由:读者可看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,以及翻译层对性能差距的具体贡献。
OpenAI 发布文章说明 GPT-5.6 在模型、推理和智能体工作流上提升 AI 效率,让每美元能获得更多可用智能。原文未给出具体性能数字或版本细节。
推荐理由:原文只给出 GPT-5.6 在模型、推理与智能体工作流上的效率方向,缺少具体数据,读者可据此了解其定位。
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的摘要内容隔离为自然语言"信念状态"并加以监督,以应对长程交互中上下文无法无限扩展的问题。在 CollabBench 协作编程任务上,基于重构的信念评分(rec-BG)将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值 token 长度也低于全上下文设置。
在 AppWorld Test Challenge 的 417 个任务上,同一 CodeAct 智能体下 Claude Sonnet 4.6 总成本 79 美元(0.19 美元/任务),GPT-4.1 却要 155 美元(0.37 美元/任务),原因是缓存命中率让 Sonnet 的实际输入成本大幅下降。
Thinking Machines 在 Hugging Face 发布 Inkling,一个约 1T 参数、支持 1M 上下文、原生接收图像文本音频输入的开源多模态 MoE 模型,同时推出 276B 总参数 12B 激活的 Inkling-Small。
推荐理由:原文给出 Inkling 的架构细节、部署配置与多模态评测数据,可据此判断其推理成本与适用场景。
Hugging Face 博客发布《Profiling in PyTorch》系列第三部分,用 PyTorch 剖析 attention 的 profile 表现,脚本在 NVIDIA A100-SXM4-80GB 上运行。
Hugging Face 宣布 vLLM 的 transformers 建模后端现已达到甚至超过 vLLM 手写原生实现的吞吐,模型作者无需移植即可获得超快推理。
推荐理由:原文给出 transformers 后端在 vLLM 中达到原生速度的实测与单 flag 用法,读者可据此判断现有部署流程是否需要改动。
Mistral AI 发布 Leanstral 1.5,一个 Apache-2.0 许可的模型,总参数 119B、激活参数 6B,在形式化验证上大幅升级。它完全饱和 miniF2F,在 PutnamBench 上解出 587/672 题,并在 FATE-H 取得 87%、FATE-X 取得 34% 的 SOTA 成绩。
推荐理由:原文给出 Leanstral 1.5 在形式化验证基准上的成绩与每道题成本,读者可据此判断开源证明模型的性价比。
Google Research 发布一种新架构,将多 Token 预测(MTP)头挂接到已冻结的 Gemini Nano v3 模型上,在 Pixel 9 和 10 系列上实现开箱即用的加速。
推荐理由:Google 把 MTP 头挂到冻结的 Gemini Nano v3 上,读者可了解端侧推理在内存与能耗约束下的具体优化路径。
Google Research 在 COLM 2026 发表的论文发现,开启推理能让 Gemini-2.5(Flash 和 Pro)与 Qwen3-32B 在 SimpleQA Verified 和 EntityQuestions 上回忆起关闭推理时几乎无法获取的事实答案。
OpenAI 发布 GPT-5.5 Instant,用于改进 ChatGPT 在健康与养生问题上的回答,官方称其在推理、上下文理解、表达清晰度上有所增强,并引入医生参与设计的评测。原文未披露具体评测分数与上线范围。
研究人员使用 OpenAI 的推理模型辅助诊断罕见疾病,在既往未解的病例中得出 18 例新诊断。
Google DeepMind 发布实验性开放模型 DiffusionGemma,采用文本扩散方式并行生成整块文本,在专用 GPU 上最高实现 4 倍推理提速。
推荐理由:官方给出 26B MoE 文本扩散模型的开放权重与硬件实测数据,可据此判断本地低并发推理的取舍。
Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,介于边缘端 E4B 与 26B MoE 之间,可在 16GB VRAM 或统一内存上本地运行。
推荐理由:Gemma 4 12B 用无编码器架构把多模态能力压到 16GB 显存,读者可据此判断本地智能体的可行边界。
OpenAI 为 GPT-Rosalind 引入新能力,增强其在生命科学领域的生物推理、药物化学专业知识和基因组分析,并提升实验工作流能力。
推荐理由:OpenAI 为 GPT-Rosalind 增加生物推理、药物化学与基因组分析能力,可据此了解模型在生命科学场景的定位。
OpenAI 表示其模型解决了有 80 年历史的单位距离问题,推翻了离散几何中的一个重要猜想,被视为 AI 驱动数学的一个里程碑。
推荐理由:OpenAI 模型推翻离散几何中一个长期猜想,可了解 AI 在数学证明上的进展边界。
Hugging Face 发文解析如何在连续批处理中实现异步化,通过 CUDA stream 将 CPU 批次准备与 GPU 批次计算解耦并行,消除同步批处理中两者轮流等待的空闲间隙。
伯克利 AI 研究团队梳理了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并行子任务、生成多少并发线程以及如何协调。文章对比了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等方法,指出多数方案仍由外部固定并行结构,而不同问题需要不同并行度。
PipelineRL 在 vLLM V0 到 V1 迁移中通过修复四项问题让 V1 与 V0 参考对齐:改用 processed_logprobs、显式设置 V1 运行时默认值、调整 inflight 权重更新路径,以及最终投影使用 fp32 lm_head。
DeepSeek 发布 V4,在 Hub 上提供两个 MoE 检查点:DeepSeek-V4-Pro 总参数 1.6T、激活 49B,DeepSeek-V4-Flash 总参数 284B、激活 13B,均支持 1M token 上下文窗口。
推荐理由:原文给出 V4 在长上下文推理成本与智能体后训练上的具体设计,可据此判断开源模型跑长任务时的部署取舍。
伯克利 AI 研究团队提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代上直接加入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开高维视觉模型中脆弱的“状态-输入”梯度,使基于学习世界模型的长时程规划变得可行。该方法针对长时程 rollout 中梯度爆炸/消失、非贪心结构导致的局部极小值以及高维隐空间失效模式等问题。
OpenAI 发布 GPT-Rosalind,一款面向生命科学研究的前沿推理模型。该模型用于加速药物发现、基因组分析、蛋白质推理和科研工作流。
推荐理由:OpenAI 面向生命科学推出前沿推理模型,读者可了解其瞄准的药物发现与基因组分析场景。
Google Research 提出 TurboQuant 压缩算法,并配套 QJL 与 PolarQuant 两种方法,用于解决向量量化中的内存开销问题,相关论文将分别在 ICLR 2026 和 AISTATS 2026 发表。
推荐理由:Google 提出 TurboQuant 等三种向量量化方法,可在不损失精度的前提下把 KV cache 压到 3 bit,读者可据此了解长上下文推理的内存优化路径。
Mistral AI 发布 Mistral Small 4,这是 Mistral Small 系列的下一个重要版本,也是首个把 Magistral 的推理、Pixtral 的多模态和 Devstral 的智能体编码能力统一到单一模型的 Mistral 模型,采用 Apache 2.0 许可。
推荐理由:Mistral 把推理、多模态与编码能力合并进单一开源模型,并给出可调推理强度与部署门槛,便于评估其替代多模型组合的可行性。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,可在特征、数据与模型组件归因中大规模识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层次结构,以约 10 倍更少的消融达到 SPEX 的性能。
AlphaGo 成为首个击败围棋世界冠军的 AI 系统十周年,其“Move 37”展示了 AI 超越模仿人类、发现全新策略的能力。这一突破直接催生了 AlphaGo Zero、AlphaZero,以及破解蛋白质折叠难题的 AlphaFold 2,后者已向全球 3 百万研究人员免费开放 2 亿个蛋白质结构。
OpenAI 提出 CoT-Control,发现推理模型难以控制自己的思维链,并认为这一特性强化了可监控性作为 AI 安全保障的价值。