跳到正文

#推理

今日 2 条
11月1日周六
  1. Berkeley AI Research36

    无需 TD 学习的强化学习:分治法实现可扩展的 off-policy RL

    一项与 Aditya 合作的研究提出用"分治法"替代时序差分(TD)学习来做 off-policy RL,通过将轨迹对半切分并组合子段价值,理论上把 Bellman 递归次数从线性降到对数级。该方法在 goal-conditioned RL 中利用三角不等式构造"传递式"Bellman 更新,据称是首个将分治价值学习扩展到高复杂度任务的工作。目前仍待解决的问题是如何选取最优子目标 w。

9月12日周五
9月11日周四
8月14日周四
8月12日周二
8月7日周四
  1. OpenAI News85

    OpenAI 在 API 平台推出 GPT-5

    OpenAI 在 API 平台推出 GPT-5,主打高推理性能、面向开发者的新控制项,以及在真实编码任务上的领先结果。

    推荐理由:OpenAI 在 API 平台上线 GPT-5,开发者可据此了解新模型在推理与真实编码任务上的定位。

8月5日周二
  1. Hugging Face Blog88

    Hugging Face 欢迎 OpenAI 开源模型家族 gpt-oss

    OpenAI 发布开源权重模型家族 gpt-oss,包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b,均为 MoE 架构并采用 MXFP4 4-bit 量化,以 Apache 2.0 许可发布。

    推荐理由:Hugging Face 汇总了 gpt-oss 两个开源模型的参数、量化方案与各推理框架的适配细节,便于判断本地部署门槛。

  2. OpenAI News88

    OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 两款开放权重模型

    OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重语言模型,采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同规模开放模型,具备较强的工具调用能力,并针对消费级硬件的高效部署做了优化。

    推荐理由:OpenAI 开源两款权重模型并给出 Apache 2.0 许可,读者可据此判断本地部署与工具调用的可选空间。

7月17日周四
  1. Mistral AI66

    Mistral 为 Le Chat 推出 Deep Research、语音模式等多项新功能

    Mistral 为 Le Chat 上线一批新功能,包括预览版 Deep Research 模式、由新语音模型 Voxtral 驱动的语音模式、由推理模型 Magistral 支持的多语言推理、用于整理对话的 Projects,以及与 Black Forest Labs 合作的高级图像编辑。

    推荐理由:官方一次性公布 Le Chat 的深度研究、语音、推理与图像编辑多项能力,可据此判断其产品路线与可用入口。

7月10日周四
7月8日周二
  1. Hugging Face Blog62

    Hugging Face 发布 SmolLM3:3B 多语言长上下文推理模型

    Hugging Face 发布 SmolLM3,一个完全开源的 3B 模型,在 11T token 上训练,支持 think/no_think 双模式推理、6 种语言和最长 128k 上下文。该模型在 3B 规模上超越 Llama-3.2-3B 和 Qwen2.5-3B,并与 Qwen3、Gemma3 等 4B 模型竞争。团队同时公开了预训练、中训练、后训练及合成数据生成的完整配方和数据集。

    推荐理由:Hugging Face 公开了 SmolLM3 的完整训练配方与数据配比,读者可据此复现或改进 3B 级小模型。

6月12日周四
6月10日周二
5月21日周三
  1. Hugging Face Blog62

    Falcon-H1 发布:0.5B 到 34B 的混合注意力 SSM 模型家族

    Falcon-H1 系列发布六个开源模型,参数从 0.5B 到 34B,每个尺寸都有 base 和 instruct 版本,采用 Apache 2.0 许可。模型在混合 mixer 块中并行组合注意力与 Mamba-2 头,支持 256K 上下文和 18 种语言,官方称 0.5B 版本性能接近 2024 年的典型 7B 模型。

    推荐理由:Falcon-H1 用注意力与 SSM 并行混合架构,在 0.5B 到 34B 六个尺寸上给出效率与长上下文表现,可据此判断小模型部署的取舍。

5月12日周一
5月8日周四
4月30日周三
4月26日周六
  1. Hugging Face Blog62

    ServiceNow 开源 PipelineRL:用飞行中权重更新提升 LLM 强化学习训练效率

    ServiceNow 开源实验性 RL 实现 PipelineRL,核心创新是在 RL 训练中进行飞行中权重更新,让推理服务器在不停止推理的情况下接收新权重,从而同时保持高推理吞吐和接近 on-policy 的数据采集。

    推荐理由:ServiceNow 开源 PipelineRL,用飞行中权重更新化解推理吞吐与 on-policy 数据采集的取舍,并给出 7B/32B 训练对比结果。

4月16日周三
  1. OpenAI News82

    OpenAI 发布 o3 与 o4-mini 系统卡

    OpenAI 发布 o3 和 o4-mini 的系统卡,两款模型将前沿推理能力与完整工具能力结合。可用工具包括网页浏览、Python、图像与文件分析、图像生成、canvas、自动化、文件搜索和记忆。

    推荐理由:官方系统卡披露 o3 与 o4-mini 的推理与工具能力组合,可据此了解新模型的能力边界。

4月2日周三
  1. Hugging Face Blog36

    高效请求排队:优化 LLM 性能

    TNG Technology Consulting 分享了自托管 LLM 服务中的请求排队优化经验,指出单个"重度用户"大量请求会填满 vLLM 等推理引擎的 FIFO 队列,阻塞其他用户。其方案是在 LLM-Server 层为每个用户和模型维护独立队列,用轮询调度替代 FIFO,并通过抓取 vLLM 的 /metrics 指标动态控制后端队列长度以降低新用户延迟。

3月27日周四
3月12日周三
  1. Hugging Face Blog67

    Open R1 更新第三期:发布 OlympicCoder 7B/32B 代码模型与 IOI 基准

    Hugging Face 的 Open R1 项目发布 OlympicCoder-7B 和 OlympicCoder-32B 两个代码模型,基于 Qwen2.5 Coder Instruct 微调,在 IOI 问题上超过 Claude 3.7 Sonnet 等闭源前沿模型,OlympicCoder-32B 还超过 o1-mini 和 DeepSeek-R1。

    推荐理由:Open R1 复现 R1 代码推理配方,给出数据集、IOI 基准与两个开源模型,并附训练经验。

3月10日周一
2月27日周四
2月13日周四
2月11日周二
  1. Hugging Face Blog62

    Open R1 发布 OpenR1-Math-220k 数学推理数据集

    Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,在 512 张 H100 上用 vLLM 和 SGLang 本地生成 80 万条 R1 推理轨迹,经 Math Verify 与 Llama3.3-70B-Instruct 过滤后保留 22 万道题。

    推荐理由:Open R1 项目公开了 220k 数学推理数据集的构建流程与本地生成方案,读者可据此复现或迁移到其他领域。

2月3日周一
  1. OpenAI News75

    OpenAI 发布 deep research 智能体

    OpenAI 发布 deep research,一个利用推理综合大量在线信息、完成多步研究任务的智能体。该功能今日面向 Pro 用户开放,Plus 和 Team 用户随后可用。

    推荐理由:OpenAI 官方发布 deep research 智能体,读者可据此了解其多步研究能力与首批开放范围。

2月2日周日
1月31日周五
1月30日周四
1月28日周二
  1. Hugging Face Blog62

    Hugging Face 发起 Open-R1 项目,完整复现 DeepSeek-R1

    Hugging Face 发起 Open-R1 项目,计划系统重建 DeepSeek-R1 的数据与训练流程。DeepSeek 虽开放了模型权重,但未公开训练数据集和代码,Open-R1 将分三步复现:蒸馏高质量推理数据集复现 R1-Distill 模型、复现 R1-Zero 的纯 RL 流程、展示从 base model 到 SFT 再到 RL 的多阶段训练。

    推荐理由:Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划,读者可了解开源推理模型补全路径。

1月23日周四
1月22日周三
12月20日周五
12月19日周四
  1. Hugging Face Blog66

    Answer.AI 与 LightOn 发布 ModernBERT,为 BERT 提供替代方案

    Answer.AI 与 LightOn 联合发布 ModernBERT,一个编码器模型系列,包含 base(149M 参数)和 large(395M 参数)两个版本,支持 8192 序列长度,可作为 BERT 类模型的直接替换。

    推荐理由:ModernBERT 把 LLM 时代的架构与训练经验搬回编码器,读者可据此判断 BERT 类模型在检索与代码场景的替换空间。

12月18日周三