跳到正文

#开源/仓库

今日 0 条
10月16日周五
  1. Hugging Face Blog88

    Reflection 发布 Beam:501B 开源 MoE 模型,1M 上下文,Apache 2.0

    美国新实验室 Reflection 在 Hugging Face 发布首个模型 Beam,这是一个 501B 参数的 MoE 大语言模型,每 token 激活 23B,支持 1M token 上下文,采用 Apache 2.0 许可,聚焦编码与智能体场景。

    推荐理由:原文给出 501B MoE 模型的架构细节、多精度基准与 vLLM/SGLang 部署配方,可据此判断自托管前沿模型的硬件门槛。

10月15日周四
  1. Hugging Face Blog78

    Black Forest Labs FLUX.3 Image Klein 发布并首日接入 Diffusers

    Black Forest Labs 发布 FLUX.3 Image Klein,并在发布首日接入 Diffusers。该模型用同一个模型完成文生图、多参考图生图和新增的布局控制,可在提示词中写入 bounding box 指定画面各部分的摆放位置,或指定参考图中哪些部分需要移动。

    推荐理由:Hugging Face 官方给出 FLUX.3 在 Diffusers 中的完整用法,包括布局控制、量化权重与 LoRA 训练脚本,可直接上手复现。

10月6日周二
  1. Hugging Face Blog24

    Falcon-Emirati-7B:让 LLM 学会阿联酋方言、文化与语感

    Falcon-Emirati-7B 发布,这是一个基于 Falcon-H1-Arabic 的 7B 方言专用模型,专注理解与生成阿联酋阿拉伯语。它沿用 Falcon-H1 混合架构(Mamba 与 Transformer 注意力并行),并构建了真实方言网页数据、MSA 文化语料与受术语表约束的合成数据三路管线。团队通过消融实验摸索方言数据注入量与训练阶段,以平衡真实与合成数据、避免过拟合。

10月4日周日
9月24日周四
9月3日周四
9月1日周二
6月11日周四
5月20日周三
5月19日周二
5月15日周五
4月22日周三
3月17日周二
  1. Mistral AI62

    Mistral 发布 Leanstral:面向 Lean 4 的开源代码智能体

    Mistral 发布 Leanstral,这是首个面向 Lean 4 的开源代码智能体,采用 6B 激活参数的稀疏架构,权重以 Apache 2.0 许可开放,并接入 Mistral Vibe 与免费 API 端点 labs-leanstral-2603。

    推荐理由:Mistral 开源面向 Lean 4 的代码智能体,给出与 Claude 系列和开源模型的成本与得分对比,可据此判断形式化验证路线的性价比。

1月20日周二
  1. Hugging Face Blog74

    Overworld 发布实时交互视频扩散模型 Waypoint-1

    Overworld 发布实时交互式视频扩散模型 Waypoint-1,可通过文本、鼠标和键盘控制,权重已上线 Hugging Face Hub,先开放 Waypoint-1-Small,Medium 版本即将推出。

    推荐理由:Waypoint-1 把实时交互式视频扩散模型与推理库一并开源,读者可据此了解世界模型从预训练视频微调转向交互优先训练的思路。

12月23日周二
12月17日周三
12月16日周二
9月12日周五
9月9日周二
5月15日周四
4月11日周五
3月18日周二
  1. Hugging Face Blog71

    NVIDIA 在 GTC 2025 发布 Cosmos Transfer、Physical AI Dataset 与 Isaac GR00T N1

    NVIDIA 在 GTC 2025 上发布三项面向物理 AI 开发的开源成果:世界基础模型 Cosmos Transfer、Physical AI Dataset 以及人形机器人基础模型 NVIDIA Isaac GR00T N1。

    推荐理由:NVIDIA 在 GTC 2025 一次性开源世界模型、数据集与人形机器人基础模型,读者可据此了解物理 AI 开发可用的工具链。

2月4日周二
12月19日周四
  1. Hugging Face Blog66

    Answer.AI 与 LightOn 发布 ModernBERT,为 BERT 提供替代方案

    Answer.AI 与 LightOn 联合发布 ModernBERT,一个编码器模型系列,包含 base(149M 参数)和 large(395M 参数)两个版本,支持 8192 序列长度,可作为 BERT 类模型的直接替换。

    推荐理由:ModernBERT 把 LLM 时代的架构与训练经验搬回编码器,读者可据此判断 BERT 类模型在检索与代码场景的替换空间。

12月18日周三
8月12日周一
  1. Hugging Face Blog62

    TII 发布 Falcon Mamba:首个强性能无注意力 7B 模型

    阿布扎比技术创新研究院(TII)发布 Falcon Mamba 7B,采用纯 Mamba 架构并加入额外 RMS 归一化层以保证大规模训练稳定,模型以 TII Falcon Mamba 7B License 1.0 开放,可在 Hugging Face 生态中使用。

    推荐理由:TII 发布首个纯 Mamba 架构 7B 模型,给出与同规模 Transformer 的基准对比和长序列显存实测。

7月16日周二
4月18日周四
2月28日周三
  1. Hugging Face Blog78

    BigCode 发布 StarCoder2 代码模型与 The Stack v2 数据集

    BigCode 发布新一代透明训练的开放代码大模型 StarCoder2,包含 3B、7B、15B 三个尺寸,分别由 ServiceNow、Hugging Face 和 NVIDIA 训练,并同步开放模型、数据集及训练代码。

    推荐理由:BigCode 同时放出三个尺寸的代码模型、训练数据集与训练代码,读者可据此判断开源代码模型的能力边界与数据规模。

1月19日周五
5月15日周一
  1. Hugging Face Blog62

    Hugging Face 将 RWKV 架构集成进 transformers 库

    Hugging Face 博客介绍 RWKV 架构已集成进 transformers 库,该架构结合 RNN 与 Transformer 的优势,由 Bo Peng 主导、Stability AI 捐赠训练 GPU。

    推荐理由:RWKV 把 RNN 的推理效率与 Transformer 的并行训练结合,并已接入 transformers 库,读者可据此判断长上下文场景的选型空间。

5月4日周四
  1. Hugging Face Blog78

    BigCode 发布 StarCoder:15B 参数开源代码大模型

    BigCode 发布 StarCoder 与 StarCoderBase 两个代码大模型,基于 GitHub 上 80 多种编程语言的宽松许可数据训练,约 15B 参数、1 万亿 token,StarCoder 是在 StarCoderBase 上用 35B Python token 微调而来。

    推荐理由:BigCode 公开了 StarCoder 的权重、训练数据与评测结果,读者可据此判断开源代码模型当时的能力位置。

12月15日周三
  1. Hugging Face Blog60

    Hugging Face 将 Perceiver IO 加入 Transformers,统一处理文本图像音频视频

    Hugging Face 将 Google DeepMind 的 Perceiver IO 加入 Transformers 库,这是首个基于 Transformer、可处理文本、图像、音频、视频、点云等多种模态及其组合的神经网络。

    推荐理由:Hugging Face 把 Perceiver IO 接入 Transformers,读者可了解这套统一处理文本、图像、音频、视频的架构如何实现。