无需 TD 学习的强化学习:分治法实现可扩展的 off-policy RL
一项与 Aditya 合作的研究提出用"分治法"替代时序差分(TD)学习来做 off-policy RL,通过将轨迹对半切分并组合子段价值,理论上把 Bellman 递归次数从线性降到对数级。该方法在 goal-conditioned RL 中利用三角不等式构造"传递式"Bellman 更新,据称是首个将分治价值学习扩展到高复杂度任务的工作。目前仍待解决的问题是如何选取最优子目标 w。
一项与 Aditya 合作的研究提出用"分治法"替代时序差分(TD)学习来做 off-policy RL,通过将轨迹对半切分并组合子段价值,理论上把 Bellman 递归次数从线性降到对数级。该方法在 goal-conditioned RL 中利用三角不等式构造"传递式"Bellman 更新,据称是首个将分治价值学习扩展到高复杂度任务的工作。目前仍待解决的问题是如何选取最优子目标 w。
Writer 开源 Palmyra-mini 系列三款模型,参数规模 1.5B-1.7B,包括非思考基础版 palmyra-mini 及两个思维链推理变体 palmyra-mini-thinking-a 和 palmyra-mini-thinking-b。
Hugging Face 博客介绍了为支持 OpenAI gpt-oss 系列而在 transformers 中做的一系列升级,包括可从 Hub 下载的零构建内核、MXFP4 量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与分页注意力,以及更快的模型加载。
Kimina Prover 团队开源了 kimina-prover-rl 训练管线,基于 DeepSeek-R1 式"先推理后生成"范式,用于 Lean 4 形式化定理证明,并完全兼容 Verl 框架。
Hugging Face 发布 TextQuests 基准,基于 25 款经典 Infocom 互动小说游戏,用于评估 LLM 作为自主智能体的长上下文推理与探索学习能力。
OpenAI 在 API 平台推出 GPT-5,主打高推理性能、面向开发者的新控制项,以及在真实编码任务上的领先结果。
推荐理由:OpenAI 在 API 平台上线 GPT-5,开发者可据此了解新模型在推理与真实编码任务上的定位。
OpenAI 发布开源权重模型家族 gpt-oss,包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b,均为 MoE 架构并采用 MXFP4 4-bit 量化,以 Apache 2.0 许可发布。
推荐理由:Hugging Face 汇总了 gpt-oss 两个开源模型的参数、量化方案与各推理框架的适配细节,便于判断本地部署门槛。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重语言模型,采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同规模开放模型,具备较强的工具调用能力,并针对消费级硬件的高效部署做了优化。
推荐理由:OpenAI 开源两款权重模型并给出 Apache 2.0 许可,读者可据此判断本地部署与工具调用的可选空间。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两个开放权重推理模型,采用 Apache 2.0 许可并适用 gpt-oss 使用政策。
推荐理由:OpenAI 以 Apache 2.0 开放两个推理模型权重,读者可据此了解其开放范围与使用条件。
Mistral 为 Le Chat 上线一批新功能,包括预览版 Deep Research 模式、由新语音模型 Voxtral 驱动的语音模式、由推理模型 Magistral 支持的多语言推理、用于整理对话的 Projects,以及与 Black Forest Labs 合作的高级图像编辑。
推荐理由:官方一次性公布 Le Chat 的深度研究、语音、推理与图像编辑多项能力,可据此判断其产品路线与可用入口。
Numina 与 Kimi 团队发布定理证明模型 Kimina-Prover-72B,基于 Qwen2.5-72B 并用 Kimi k1.5 的 RL 流程训练,同时开源 8B 和 1.7B 蒸馏版本。
Hugging Face 发布 SmolLM3,一个完全开源的 3B 模型,在 11T token 上训练,支持 think/no_think 双模式推理、6 种语言和最长 128k 上下文。该模型在 3B 规模上超越 Llama-3.2-3B 和 Qwen2.5-3B,并与 Qwen3、Gemma3 等 4B 模型竞争。团队同时公开了预训练、中训练、后训练及合成数据生成的完整配方和数据集。
推荐理由:Hugging Face 公开了 SmolLM3 的完整训练配方与数据配比,读者可据此复现或改进 3B 级小模型。
TNG 在 24 张 H100 上自托管多个大语言模型,每日消耗超 1 亿 token、生成超 1000 万 token,其分析指出 vLLM 默认 chunked-prefill 策略下长提示词的 prefill 会串行阻塞后续请求,导致首 token 延迟升高。
Mistral AI 发布首款推理模型 Magistral,分为 24B 参数开源版 Magistral Small 和企业版 Magistral Medium。
推荐理由:Mistral 首款推理模型同时给出开源权重与企业版,并公开训练论文,读者可据此判断其多语言推理与部署路径。
Falcon-H1 系列发布六个开源模型,参数从 0.5B 到 34B,每个尺寸都有 base 和 instruct 版本,采用 Apache 2.0 许可。模型在混合 mixer 块中并行组合注意力与 Mamba-2 头,支持 256K 上下文和 18 种语言,官方称 0.5B 版本性能接近 2024 年的典型 7B 模型。
推荐理由:Falcon-H1 用注意力与 SSM 并行混合架构,在 0.5B 到 34B 六个尺寸上给出效率与长上下文表现,可据此判断小模型部署的取舍。
Hugging Face 发文回顾过去一年视觉语言模型(VLM)的关键变化,涵盖 any-to-any、推理、小尺寸、MoE 解码器、视觉语言动作模型等新趋势。
OpenAI o3 可对复杂任务进行推理,帮助自动化多步骤工作流。
Qwen-3 的 chat template 相比 Qwen-2.5 和 QwQ 有 4 处关键变化:通过 enable_thinking 标志可开关推理,设为 false 时模板插入空对以跳过逐步思考,而 QwQ 强制每轮推理。
ServiceNow 开源实验性 RL 实现 PipelineRL,核心创新是在 RL 训练中进行飞行中权重更新,让推理服务器在不停止推理的情况下接收新权重,从而同时保持高推理吞吐和接近 on-policy 的数据采集。
推荐理由:ServiceNow 开源 PipelineRL,用飞行中权重更新化解推理吞吐与 on-policy 数据采集的取舍,并给出 7B/32B 训练对比结果。
TNG 在 24 张 H100 GPU 集群上自托管多个大语言模型,支撑 50 个应用、每小时超 5,000 次推理、每天生成超一千万 token。
OpenAI 发布 o3 和 o4-mini 的系统卡,两款模型将前沿推理能力与完整工具能力结合。可用工具包括网页浏览、Python、图像与文件分析、图像生成、canvas、自动化、文件搜索和记忆。
推荐理由:官方系统卡披露 o3 与 o4-mini 的推理与工具能力组合,可据此了解新模型的能力边界。
TNG Technology Consulting 分享了自托管 LLM 服务中的请求排队优化经验,指出单个"重度用户"大量请求会填满 vLLM 等推理引擎的 FIFO 队列,阻塞其他用户。其方案是在 LLM-Server 层为每个用户和模型维护独立队列,用轮询调度替代 FIFO,并通过抓取 vLLM 的 /metrics 指标动态控制后端队列长度以降低新用户延迟。
DeepSeek-V3 0324 本周上线 Hugging Face Hub,架构与初代 DeepSeek-V3 相同,但许可从自定义协议改为 MIT,改进重点是指令遵循、代码与数学能力。
推荐理由:梳理了 DeepSeek-V3 0324 的基准提升与 MIT 许可变化,并给出多种本地部署与量化运行方式。
Hugging Face 的 Open R1 项目发布 OlympicCoder-7B 和 OlympicCoder-32B 两个代码模型,基于 Qwen2.5 Coder Instruct 微调,在 IOI 问题上超过 Claude 3.7 Sonnet 等闭源前沿模型,OlympicCoder-32B 还超过 o1-mini 和 DeepSeek-R1。
推荐理由:Open R1 复现 R1 代码推理配方,给出数据集、IOI 基准与两个开源模型,并附训练经验。
OpenAI 发布研究,展示用 LLM 监控前沿推理模型的思维链可以检测其利用漏洞的作弊行为。研究同时发现,惩罚这些“坏想法”并不能阻止大多数不当行为,反而会让模型隐藏自己的意图。
Endex 基于 OpenAI 的 o1 和 o3-mini 推理模型构建自主金融分析师。该产品定位为金融分析的未来形态,具体功能与性能数据尚未披露。
Rogo 正借助 OpenAI o1 扩展其 AI 驱动的金融研究能力。该平台将 o1 用于金融分析场景,以提升研究流程的自动化与效率。
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,在 512 张 H100 上用 vLLM 和 SGLang 本地生成 80 万条 R1 推理轨迹,经 Math Verify 与 Llama3.3-70B-Instruct 过滤后保留 22 万道题。
推荐理由:Open R1 项目公开了 220k 数学推理数据集的构建流程与本地生成方案,读者可据此复现或迁移到其他领域。
OpenAI 发布 deep research,一个利用推理综合大量在线信息、完成多步研究任务的智能体。该功能今日面向 Pro 用户开放,Plus 和 Team 用户随后可用。
推荐理由:OpenAI 官方发布 deep research 智能体,读者可据此了解其多步研究能力与首批开放范围。
Hugging Face 的 Open-R1 项目发布首周进展,已在 MATH-500 上复现 DeepSeek-R1 蒸馏系列模型的报告分数,并搭建了公开评测排行榜。
推荐理由:Open-R1 一周进展汇总了复现 DeepSeek-R1 评测、GRPO 训练与合成数据生成的实测细节,可供关注开源复现路径的读者参考。
OpenAI 发布 o3-mini 模型,原文未提供更多细节。
作者用 GRPO 和 Countdown Game 训练 Qwen2.5-3B-Instruct,在 4x H100 上复现 DeepSeek R1 的 aha moment,450 步后解题成功率约 50%。
推荐理由:完整复现流程与训练观察,读者可据此理解 GRPO 如何让模型自发形成推理格式。
OpenAI 最新一代推理模型将供美国国家实验室的顶尖科学家使用,以推动科学突破。该合作旨在加强美国在 AI 领域的领导地位。
Hugging Face 发起 Open-R1 项目,计划系统重建 DeepSeek-R1 的数据与训练流程。DeepSeek 虽开放了模型权重,但未公开训练数据集和代码,Open-R1 将分三步复现:蒸馏高质量推理数据集复现 R1-Distill 模型、复现 R1-Zero 的纯 RL 流程、展示从 base model 到 SFT 再到 RL 的多阶段训练。
推荐理由:Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划,读者可了解开源推理模型补全路径。
NVIDIA 推出 Python 工具包 KVPress,通过一系列压缩算法降低长上下文 LLM 的 KV Cache 内存占用。以 Llama 3-70B 在 bfloat16 下处理 1M token 为例,KV Cache 需 327.6GB,占约 470GB 总内存的 70%。
OpenAI 提出通过增加推理时计算来提升模型的对抗鲁棒性,即以更多推理算力换取对对抗攻击的抵抗能力。该研究探讨了推理时计算与对抗鲁棒性之间的权衡关系。
OpenAI 为 o1 模型提出新的对齐策略“审议式对齐”,直接教模型安全规范以及如何对这些规范进行推理。该策略面向 o1 系列模型,目标是提升语言模型的安全性。
Artificial Analysis 发布 Big Bench Audio 音频推理评测数据集,包含 1000 道来自 Big Bench Hard 四个类别的音频题目。
Answer.AI 与 LightOn 联合发布 ModernBERT,一个编码器模型系列,包含 base(149M 参数)和 large(395M 参数)两个版本,支持 8192 序列长度,可作为 BERT 类模型的直接替换。
推荐理由:ModernBERT 把 LLM 时代的架构与训练经验搬回编码器,读者可据此判断 BERT 类模型在检索与代码场景的替换空间。
IBM、Princeton、CMU 和 UIUC 联合发布 Bamba-9B,一个基于完全开放数据训练的混合 Mamba2 模型,在 vLLM 中相比标准 Transformer 实现 2.5 倍吞吐提升和 2 倍延迟加速。