跳到正文

#开源生态

今日 4 条
10月14日周二
10月11日周六
10月7日周二
10月1日周三
9月29日周一
9月26日周五
9月23日周二
9月22日周一
9月19日周五
9月18日周四
9月17日周三
9月11日周四
9月10日周三
  1. Hugging Face Blog60

    Hugging Face 用 Jupyter Notebook 数据训练小模型做数据分析智能体

    Hugging Face 发布 Jupyter Agent 项目,用约 2TB Kaggle notebook 经去重、教育质量打分、QA 与轨迹生成后得到 51k 合成 notebook、近 0.2B token 的数据集,微调 Qwen3-4B。

    推荐理由:完整披露了从 Kaggle notebook 清洗到 SFT 的数据管线与脚手架改动,可迁移到其他小模型智能体训练。

9月3日周三
9月2日周二
  1. Hugging Face Blog60

    如何用 PyTorch 提前编译让 ZeroGPU Spaces 提速

    Hugging Face 发布教程,介绍如何在 ZeroGPU Spaces 中用 PyTorch 提前编译(AoT)替代 torch.compile,避免短生命周期进程反复编译,在 Flux、Wan、LTX 等模型上取得 1.3×–1.8× 加速。

    推荐理由:Hugging Face 官方给出 ZeroGPU 上 AoT 编译的完整接入步骤与实测加速数据,可直接迁移到自己的 Space。

8月21日周四
8月18日周一
8月13日周三
  1. Hugging Face Blog60

    Arm 与 ExecuTorch 0.7:KleidiAI 默认启用,让旧款 Arm 设备也能跑生成式 AI

    Arm 与 ExecuTorch 0.7 beta 将默认启用 KleidiAI,为基于 Arm CPU 的设备自动带来加速,Android 与跨平台开发者无需改动代码即可通过 ExecuTorch 和 XNNPack 获得性能优化。

    推荐理由:Arm 与 ExecuTorch 0.7 默认启用 KleidiAI,读者可据此判断旧款 Arm 设备跑端侧 LLM 的可行边界。

8月8日周五
8月7日周四
8月5日周二
  1. Hugging Face Blog88

    Hugging Face 欢迎 OpenAI 开源模型家族 gpt-oss

    OpenAI 发布开源权重模型家族 gpt-oss,包含 117B 参数的 gpt-oss-120b 和 21B 参数的 gpt-oss-20b,均为 MoE 架构并采用 MXFP4 4-bit 量化,以 Apache 2.0 许可发布。

    推荐理由:Hugging Face 汇总了 gpt-oss 两个开源模型的参数、量化方案与各推理框架的适配细节,便于判断本地部署门槛。

  2. OpenAI News62

    OpenAI 发布其最强开放权重模型

    OpenAI 发布其能力最强的开放权重模型,称这是让先进 AI 更开放、灵活并覆盖全球的重要一步。官方表示,其使命是让尽可能多的人用上 AI,此次发布是朝这一方向迈出的进展。

    推荐理由:OpenAI 官方宣布发布其能力最强的开放权重模型,读者可据此了解其开放与可及性主张。

  3. OpenAI News88

    OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 两款开放权重模型

    OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重语言模型,采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同规模开放模型,具备较强的工具调用能力,并针对消费级硬件的高效部署做了优化。

    推荐理由:OpenAI 开源两款权重模型并给出 Apache 2.0 许可,读者可据此判断本地部署与工具调用的可选空间。

8月1日周五
7月25日周五
7月23日周三
  1. Hugging Face Blog62

    用 Diffusers 和 PEFT 实现 Flux 的快速 LoRA 推理

    Hugging Face 发布教程,介绍如何用 Diffusers 和 PEFT 优化 Flux.1-Dev 的 LoRA 推理速度,在 H100 上通过 Flash Attention 3、torch.compile 和 FP8 量化实现约 2.23 倍加速,并借助 hotswap 避免重新编译。

    推荐理由:原文给出 Flux LoRA 推理的完整优化配方与实测数据,读者可据此在 H100 或消费级 GPU 上复现加速。

7月22日周二
  1. Hugging Face Blog62

    NVIDIA NIM 在 Hugging Face 上支持超 10 万个 LLM 快速部署

    NVIDIA 宣布 NIM 推理微服务现可在 Hugging Face 上支持超过 100,000 个 LLM 的快速可靠部署。NIM 提供单个 Docker 容器,自动识别模型格式、架构与量化格式(如 FP16、FP8、INT4),并在 NVIDIA TensorRT-LLM、vLLM 和 SGLang 之间选择推理后端,无需手动配置。

    推荐理由:NIM 用单个容器自动识别模型格式并选择推理后端,读者可据此判断多模型部署流程能简化到什么程度。

7月17日周四
7月16日周三
7月15日周二
  1. Mistral AI80

    Mistral 发布 Voxtral 语音理解模型,24B 与 3B 双版本开源

    Mistral 发布 Voxtral 语音理解模型,提供 24B 和 3B 两种尺寸,均以 Apache 2.0 许可开源并上线 API。模型支持 32k token 上下文,可处理最长 30 分钟音频转写或 40 分钟音频理解,具备内置问答与摘要、多语言自动检测和语音触发函数调用能力。

    推荐理由:Mistral 开源语音理解模型,给出两种尺寸、Apache 2.0 许可与 API 定价,读者可据此判断语音能力的开放程度与成本。

  2. Hugging Face Blog62

    Hugging Face 将 Hub 存储从 Git LFS 迁移到 Xet

    Hugging Face 官方宣布 Hub 存储后端从 Git LFS 迁移到 Xet,已有 50 万个仓库、20 PB 数据完成迁移,超过 100 万用户在用。迁移通过 Git LFS Bridge 和后台迁移流程实现,旧客户端仍可正常上传下载,无需改变工作流。从本月起 Xet 将向所有用户开放,现有仓库会自动迁移,新仓库默认启用 Xet,后续计划开源 Xet 协议及整套基础设施。

    推荐理由:Hugging Face 官方复盘 Hub 从 Git LFS 迁移到 Xet 的工程细节,可供理解大规模存储迁移的兼容与扩容方案。

7月11日周五
7月10日周四