Hugging Face 将 Xet 存储上线 Hub,首批迁移 4.5 TB 仓库
Hugging Face 的 Xet 团队已将首批 Model 和 Dataset 仓库从 LFS 迁移到 Xet 存储,2 月 20 日当天共迁移 4.5 TB,约 6% 的 Hub 下载流量转到 Xet 基础设施。
推荐理由:Hugging Face 官方复盘 Xet 存储首次迁移,给出分块去重带来的传输收益与两个生产环境问题的修复过程。
Hugging Face 的 Xet 团队已将首批 Model 和 Dataset 仓库从 LFS 迁移到 Xet 存储,2 月 20 日当天共迁移 4.5 TB,约 6% 的 Hub 下载流量转到 Xet 基础设施。
推荐理由:Hugging Face 官方复盘 Xet 存储首次迁移,给出分块去重带来的传输收益与两个生产环境问题的修复过程。
Mistral AI 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能与多模态理解,上下文窗口扩展至 128k tokens,推理速度达 150 tokens/秒,并以 Apache 2.0 许可开源。
推荐理由:官方给出 Mistral Small 3.1 的多模态、128k 上下文与单卡可跑规格,便于判断小模型端侧部署的取舍。
Google 发布 Gemma 系列新模型 Gemma 3,提供 1B、4B、12B、27B 四种尺寸,含预训练与指令微调版本。其中 4B、12B、27B 支持图像与文本输入,上下文窗口达 128k,支持 140 多种语言,1B 版本仅支持文本、上下文 32k。
推荐理由:梳理 Gemma 3 的四种尺寸、多模态与 128k 上下文等规格,并给出 transformers 与端侧推理的可用入口。
Hugging Face 的 Open R1 项目发布 OlympicCoder-7B 和 OlympicCoder-32B 两个代码模型,基于 Qwen2.5 Coder Instruct 微调,在 IOI 问题上超过 Claude 3.7 Sonnet 等闭源前沿模型,OlympicCoder-32B 还超过 o1-mini 和 DeepSeek-R1。
推荐理由:Open R1 复现 R1 代码推理配方,给出数据集、IOI 基准与两个开源模型,并附训练经验。
Hugging Face 的 LeRobot 团队与 Yaak 联合发布 L2D(Learning to Drive),称其为全球最大的开源自动驾驶数据集,包含 90+ TB 多模态数据、5000+ 小时驾驶记录,来自德国 30 座城市的 60 辆驾校车辆。
推荐理由:L2D 以 90TB 多模态驾驶数据和 LeRobot 训练管线开放,读者可据此判断端到端自动驾驶数据集的规模与可用性。
Hugging Face 发布教程,指导开发者用 React Native 构建本地运行 LLM 的移动应用,通过 llama.rn(llama.cpp 的绑定)加载 GGUF 模型,从 Hugging Face hub 下载后完全离线运行。
Hugging Face 宣布与 JFrog 合作,将 JFrog 扫描器集成到 Hugging Face Hub,用于检测模型权重中的恶意代码。相比仅对模块名做模式匹配的 picklescan,JFrog 会解析并分析模型权重中的代码,以减少误报,并覆盖 pickle 之外的更多文件格式。所有公开模型仓库在推送文件后将自动被扫描,无需额外操作。
Cohere For AI 发布 Aya Vision 系列开源权重视觉语言模型,包含 8B 和 32B 两个版本,覆盖 23 种语言。32B 版本在 AyaVisionBench 和 mWildVision 的成对比较中,对 Llama-3.2 90B Vision、Molmo 72B、Qwen2.5-VL 72B 等参数量超过自身两倍的模型取得 50% 至 64% 的胜率。
推荐理由:原文给出 8B 与 32B 两个开源权重的多语言视觉语言模型及训练细节,读者可据此判断小参数模型在多语言多模态上的位置。
Hugging Face 博客介绍如何用 Arize Phoenix 为 smolagents 构建的 Agent 实现追踪与评估:通过 OpenTelemetry + OpenInference 自动捕获每一步调用,并可用 OpenAI GPT-4o 以 LLM-as-a-judge 方式评估 DuckDuckGo 搜索工具结果的相关性。
Hugging Face 与印度科学研究所(IISc)及 ARTPARK 达成合作,旨在提升印度多模态多语言数据集 Vaani 的可访问性与易用性。Vaani 由 IISc/ARTPARK 与 Google 于 2022 年发起,目标采集超 15 万小时语音和 1.5 万小时转写文本,覆盖全印 773 个地区、100 万人,目前已开源 790 小时转写音频,涵盖 54 种语言。
Hugging Face 发布 FastRTC,一个用 Python 构建实时音频和视频 AI 应用的通信库,内置自动语音检测与轮次切换、WebRTC 与 Websocket 支持,以及可直接测试的 Gradio UI。
推荐理由:原文给出 FastRTC 的核心能力与最小示例,读者可据此判断在 Python 中搭建实时语音应用的接入成本。
Hugging Face Diffusers 团队实验性推出 Remote VAE,将扩散模型的 VAE 解码过程委托给远程 Inference Endpoints 执行,以降低高分辨率图像和视频生成对消费级 GPU 的显存压力。
Google 发布 SigLIP 2 系列多语言视觉语言编码器,在 SigLIP 的 sigmoid loss 基础上加入解码器、自蒸馏 Global-Local loss 与 Masked Prediction loss 等训练目标,在零样本分类、图文检索和视觉表征迁移上均优于旧版 SigLIP。
推荐理由:梳理 SigLIP 2 相比前代新增的训练目标与 naflex 动态分辨率变体,便于判断视觉编码器的选型。
Hugging Face 发布 SmolVLM2 系列视频理解模型,包含 2.2B、500M 和 256M 三个参数规模,并称 500M 与 256M 是迄今最小的视频语言模型。
推荐理由:Hugging Face 发布三档小尺寸视频理解模型,并给出 MLX 与 Transformers 的即用示例,可据此判断端侧视频理解的门槛变化。
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商,支持 DeepSeek-R1、FLUX.1 等模型,并已集成 JS 和 Python 客户端 SDK。用户可在账户设置中配置自有 API key 或经 HF 路由调用,PRO 用户每月获 2 美元推理额度。
Hugging Face 用 Math-Verify 替换旧评测器,重新评估了 Open LLM Leaderboard 上提交过的全部 3,751 个模型。旧评测器因答案格式、SymPy 解析和答案比对问题误判正确答案,替换后模型平均多解出 61 道题,MATH 子集平均提升 4.66 分,Algebra 与 Prealgebra 分别提升 8.27 和 6.93 分。
推荐理由:原文给出评测器替换前后的具体差异与榜单变化,读者可据此判断数学评测口径对模型排名的影响。
Fireworks.ai 正式成为 Hugging Face Hub 支持的推理服务商,可在模型页面及整个 HF 生态中提供无服务器推理。
Hugging Face 博客给出大规模分类与嵌入推理的成本测算框架,用 Inference Endpoints、Infinity 和 k6 在 nvidia-L4($0.8/hr)上实测三类任务。
Hugging Face 开源了一套三阶段视频数据集构建工具链,用于微调视频生成模型。该工具链支持 yt-dlp 下载、LAION-5B-WatermarkDetection 水印检测、improved-aesthetic-predictor 美学评分、Falconsai/nsfw_image_detection 内容过滤,并用 Florence-2 生成帧级描述。
Hugging Face 的 Xet 团队介绍其基于内容定义分块(CDC)的存储方案,通过将去重后的数据聚合为最大 64MB 的块、并用 shard 记录文件与块的映射,把 CAS 条目减少约 1000 倍,部分场景上传下载提速 2-3 倍。
推荐理由:Hugging Face 官方解释 Xet 存储如何用块级聚合替代逐块传输,读者可了解大文件上传下载提速的实现思路。
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,在 512 张 H100 上用 vLLM 和 SGLang 本地生成 80 万条 R1 推理轨迹,经 Math Verify 与 Llama3.3-70B-Instruct 过滤后保留 22 万道题。
推荐理由:Open R1 项目公开了 220k 数学推理数据集的构建流程与本地生成方案,读者可据此复现或迁移到其他领域。
Hugging Face 联合 2A2I、TII 推出 Open Arabic LLM Leaderboard 2,升级阿拉伯语大模型评测榜。首版上线不到 7 个月吸引超 46,000 名访客,收到 700 多个模型提交,参数规模从 1B 到 70B 以上,来自 180 多个机构,其中超 70% 为 chat 与微调模型,11% 为预训练模型。
Hugging Face 在 24 小时复现冲刺中开源了 DeepResearch 框架,用 smolagents 的 CodeAgent 在 GAIA 验证集上达到 55.15%,超过此前开源框架 Magentic-One 的约 46%。
推荐理由:原文给出开源复现 DeepResearch 的完整方法,读者可据此了解代码智能体在 GAIA 上的表现差异。
Adyen 与 Hugging Face 联合推出 DABstep(Data Agent Benchmark for Multi-step Reasoning),包含 450+ 个源自 Adyen 真实业务的数据分析任务,用于评测 LLM 与 AI 智能体的多步推理能力。
Hugging Face 将 Physical Intelligence 开发的 π0 和 π0-FAST 两个机器人基础模型移植到 LeRobot 仓库,并给出 PyTorch 版本与模型合集。
推荐理由:原文给出两个 VLA 模型在 LeRobot 的移植细节与 FAST 分词原理,读者可据此判断机器人基础模型的落地路径。
Hugging Face 的 Open-R1 项目发布首周进展,已在 MATH-500 上复现 DeepSeek-R1 蒸馏系列模型的报告分数,并搭建了公开评测排行榜。
推荐理由:Open-R1 一周进展汇总了复现 DeepSeek-R1 评测、GRPO 训练与合成数据生成的实测细节,可供关注开源复现路径的读者参考。
作者用 GRPO 和 Countdown Game 训练 Qwen2.5-3B-Instruct,在 4x H100 上复现 DeepSeek R1 的 aha moment,450 步后解题成功率约 50%。
推荐理由:完整复现流程与训练观察,读者可据此理解 GRPO 如何让模型自发形成推理格式。
Hugging Face 发布首期 AI 艺术工具通讯,回顾 2024 年创意 AI 关键进展。图像生成领域从 Unet 转向 DiT 架构与 flow matching。
Mistral AI 发布 Mistral Small 3,一个面向低延迟优化的 24B 参数模型,以 Apache 2.0 许可开源,同时提供预训练和指令微调两个 checkpoint。
推荐理由:24B 参数在 Apache 2.0 下对标三倍体量模型,并给出量化后单卡本地部署的具体条件,便于判断端侧选型。
Hugging Face 发布指南,介绍如何在 AWS 上部署和微调 DeepSeek-R1 系列模型,包括 DeepSeek-R1-Zero、DeepSeek-R1 及 6 个基于 Llama 和 Qwen 架构蒸馏的密集模型。
Hugging Face 在 Hub 的模型页上线 Inference Providers,首批接入 fal、Replicate、SambaNova 和 Together AI 四家无服务器推理服务,并集成到 JS 与 Python 客户端 SDK。
推荐理由:Hugging Face 把四家无服务器推理商接入模型页与 SDK,读者可据此判断多供应商调用与计费方式的变化。
Hugging Face 发起 Open-R1 项目,计划系统重建 DeepSeek-R1 的数据与训练流程。DeepSeek 虽开放了模型权重,但未公开训练数据集和代码,Open-R1 将分三步复现:蒸馏高质量推理数据集复现 R1-Distill 模型、复现 R1-Zero 的纯 RL 流程、展示从 base model 到 SFT 再到 RL 的多阶段训练。
推荐理由:Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划,读者可了解开源推理模型补全路径。
Hugging Face Diffusers 团队发布文章,梳理开源视频生成模型现状,并介绍 Diffusers 对这类模型的支持与优化方案。文章列出 CogVideoX、Mochi-1、HunyuanVideo、Allegro、LTX Video 等开源模型,指出高资源需求、泛化能力和延迟是主要限制。
推荐理由:梳理开源视频生成模型现状与 Diffusers 的显存优化组合,可据此估算本地部署成本。
Hugging Face 为 smolagents 加入视觉支持,可在智能体流程中原生使用视觉语言模型。图片既能在 run 方法中一次性传入并存入 TaskStep 的 task_images,也能通过 step_callbacks 在每步把截图写入 ActionStep 的 observation_images。
推荐理由:官方给出 smolagents 接入视觉语言模型的两条路径与回调写法,可据此改造现有智能体流程。
NVIDIA 推出 Python 工具包 KVPress,通过一系列压缩算法降低长上下文 LLM 的 KV Cache 内存占用。以 Llama 3-70B 在 bfloat16 下处理 1M token 为例,KV Cache 需 327.6GB,占约 470GB 总内存的 70%。
Hugging Face 发布 SmolVLM-256M 和 SmolVLM-500M 两款视觉语言模型,其中 256M 被称为全球最小的 VLM,共提供两个 base 和两个指令微调共四个 checkpoint。
推荐理由:SmolVLM 家族新增 256M 与 500M 两个小尺寸多模态模型,读者可据此了解小模型在视觉语言任务上的取舍与部署方式。
Hugging Face 与 FriendliAI 达成合作,将 FriendliAI Endpoints 作为部署选项集成进 Hugging Face Hub 的“Deploy this model”按钮,支持一键部署开源或自定义生成式 AI 模型。
Hugging Face 为 Text-Generation-Inference(TGI)引入 TGI Backends 架构,通过 Rust 的 Backend trait 把 HTTP 服务与调度层同推理引擎解耦,使 TGI 可作为统一前端层接入不同后端。
Hugging Face 发布 TimmWrapper,让任意 timm 视觉模型可直接接入 transformers 生态,支持 pipeline API、Auto 类和 Trainer 微调。该工具可用约 5 行代码配合 BitsAndBytesConfig 完成 8bit 量化,并支持 torch.compile 加速推理与 LoRA 适配器微调,微调后模型还能回到 timm 使用。
Hugging Face 发布方法,用 Sentence Transformers 训练静态嵌入模型,在 CPU 上比主流嵌入模型快 100 到 400 倍,同时保留大部分质量。
推荐理由:原文公开了静态嵌入模型的完整训练配方与两个已发布模型,读者可据此在 CPU 上复现高效嵌入方案。