Hugging Face 发布视频生成数据集构建工具链
Hugging Face 开源了一套三阶段视频数据集构建工具链,用于微调视频生成模型。该工具链支持 yt-dlp 下载、LAION-5B-WatermarkDetection 水印检测、improved-aesthetic-predictor 美学评分、Falconsai/nsfw_image_detection 内容过滤,并用 Florence-2 生成帧级描述。
Hugging Face 开源了一套三阶段视频数据集构建工具链,用于微调视频生成模型。该工具链支持 yt-dlp 下载、LAION-5B-WatermarkDetection 水印检测、improved-aesthetic-predictor 美学评分、Falconsai/nsfw_image_detection 内容过滤,并用 Florence-2 生成帧级描述。
Hugging Face 的 Xet 团队介绍其基于内容定义分块(CDC)的存储方案,通过将去重后的数据聚合为最大 64MB 的块、并用 shard 记录文件与块的映射,把 CAS 条目减少约 1000 倍,部分场景上传下载提速 2-3 倍。
推荐理由:Hugging Face 官方解释 Xet 存储如何用块级聚合替代逐块传输,读者可了解大文件上传下载提速的实现思路。
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k,在 512 张 H100 上用 vLLM 和 SGLang 本地生成 80 万条 R1 推理轨迹,经 Math Verify 与 Llama3.3-70B-Instruct 过滤后保留 22 万道题。
推荐理由:Open R1 项目公开了 220k 数学推理数据集的构建流程与本地生成方案,读者可据此复现或迁移到其他领域。
Hugging Face 联合 2A2I、TII 推出 Open Arabic LLM Leaderboard 2,升级阿拉伯语大模型评测榜。首版上线不到 7 个月吸引超 46,000 名访客,收到 700 多个模型提交,参数规模从 1B 到 70B 以上,来自 180 多个机构,其中超 70% 为 chat 与微调模型,11% 为预训练模型。
Hugging Face 在 24 小时复现冲刺中开源了 DeepResearch 框架,用 smolagents 的 CodeAgent 在 GAIA 验证集上达到 55.15%,超过此前开源框架 Magentic-One 的约 46%。
推荐理由:原文给出开源复现 DeepResearch 的完整方法,读者可据此了解代码智能体在 GAIA 上的表现差异。
Adyen 与 Hugging Face 联合推出 DABstep(Data Agent Benchmark for Multi-step Reasoning),包含 450+ 个源自 Adyen 真实业务的数据分析任务,用于评测 LLM 与 AI 智能体的多步推理能力。
Hugging Face 将 Physical Intelligence 开发的 π0 和 π0-FAST 两个机器人基础模型移植到 LeRobot 仓库,并给出 PyTorch 版本与模型合集。
推荐理由:原文给出两个 VLA 模型在 LeRobot 的移植细节与 FAST 分词原理,读者可据此判断机器人基础模型的落地路径。
Hugging Face 的 Open-R1 项目发布首周进展,已在 MATH-500 上复现 DeepSeek-R1 蒸馏系列模型的报告分数,并搭建了公开评测排行榜。
推荐理由:Open-R1 一周进展汇总了复现 DeepSeek-R1 评测、GRPO 训练与合成数据生成的实测细节,可供关注开源复现路径的读者参考。
作者用 GRPO 和 Countdown Game 训练 Qwen2.5-3B-Instruct,在 4x H100 上复现 DeepSeek R1 的 aha moment,450 步后解题成功率约 50%。
推荐理由:完整复现流程与训练观察,读者可据此理解 GRPO 如何让模型自发形成推理格式。
Hugging Face 发布首期 AI 艺术工具通讯,回顾 2024 年创意 AI 关键进展。图像生成领域从 Unet 转向 DiT 架构与 flow matching。
Mistral AI 发布 Mistral Small 3,一个面向低延迟优化的 24B 参数模型,以 Apache 2.0 许可开源,同时提供预训练和指令微调两个 checkpoint。
推荐理由:24B 参数在 Apache 2.0 下对标三倍体量模型,并给出量化后单卡本地部署的具体条件,便于判断端侧选型。
Hugging Face 发布指南,介绍如何在 AWS 上部署和微调 DeepSeek-R1 系列模型,包括 DeepSeek-R1-Zero、DeepSeek-R1 及 6 个基于 Llama 和 Qwen 架构蒸馏的密集模型。
Hugging Face 在 Hub 的模型页上线 Inference Providers,首批接入 fal、Replicate、SambaNova 和 Together AI 四家无服务器推理服务,并集成到 JS 与 Python 客户端 SDK。
推荐理由:Hugging Face 把四家无服务器推理商接入模型页与 SDK,读者可据此判断多供应商调用与计费方式的变化。
Hugging Face 发起 Open-R1 项目,计划系统重建 DeepSeek-R1 的数据与训练流程。DeepSeek 虽开放了模型权重,但未公开训练数据集和代码,Open-R1 将分三步复现:蒸馏高质量推理数据集复现 R1-Distill 模型、复现 R1-Zero 的纯 RL 流程、展示从 base model 到 SFT 再到 RL 的多阶段训练。
推荐理由:Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划,读者可了解开源推理模型补全路径。
Hugging Face Diffusers 团队发布文章,梳理开源视频生成模型现状,并介绍 Diffusers 对这类模型的支持与优化方案。文章列出 CogVideoX、Mochi-1、HunyuanVideo、Allegro、LTX Video 等开源模型,指出高资源需求、泛化能力和延迟是主要限制。
推荐理由:梳理开源视频生成模型现状与 Diffusers 的显存优化组合,可据此估算本地部署成本。
Hugging Face 为 smolagents 加入视觉支持,可在智能体流程中原生使用视觉语言模型。图片既能在 run 方法中一次性传入并存入 TaskStep 的 task_images,也能通过 step_callbacks 在每步把截图写入 ActionStep 的 observation_images。
推荐理由:官方给出 smolagents 接入视觉语言模型的两条路径与回调写法,可据此改造现有智能体流程。
NVIDIA 推出 Python 工具包 KVPress,通过一系列压缩算法降低长上下文 LLM 的 KV Cache 内存占用。以 Llama 3-70B 在 bfloat16 下处理 1M token 为例,KV Cache 需 327.6GB,占约 470GB 总内存的 70%。
Hugging Face 发布 SmolVLM-256M 和 SmolVLM-500M 两款视觉语言模型,其中 256M 被称为全球最小的 VLM,共提供两个 base 和两个指令微调共四个 checkpoint。
推荐理由:SmolVLM 家族新增 256M 与 500M 两个小尺寸多模态模型,读者可据此了解小模型在视觉语言任务上的取舍与部署方式。
Hugging Face 与 FriendliAI 达成合作,将 FriendliAI Endpoints 作为部署选项集成进 Hugging Face Hub 的“Deploy this model”按钮,支持一键部署开源或自定义生成式 AI 模型。
Hugging Face 为 Text-Generation-Inference(TGI)引入 TGI Backends 架构,通过 Rust 的 Backend trait 把 HTTP 服务与调度层同推理引擎解耦,使 TGI 可作为统一前端层接入不同后端。
Hugging Face 发布 TimmWrapper,让任意 timm 视觉模型可直接接入 transformers 生态,支持 pipeline API、Auto 类和 Trainer 微调。该工具可用约 5 行代码配合 BitsAndBytesConfig 完成 8bit 量化,并支持 torch.compile 加速推理与 LoRA 适配器微调,微调后模型还能回到 timm 使用。
Hugging Face 发布方法,用 Sentence Transformers 训练静态嵌入模型,在 CPU 上比主流嵌入模型快 100 到 400 倍,同时保留大部分质量。
推荐理由:原文公开了静态嵌入模型的完整训练配方与两个已发布模型,读者可据此在 CPU 上复现高效嵌入方案。
Hugging Face 发布文章指出,AI 智能体是基于 LLM 构建、能在数字世界中自主行动的系统,其风险随自主性等级上升而增加,因此建议不要开发可自行编写并执行代码的完全自主智能体。文章按自主程度将智能体分为五级,从模型不影响程序流程到模型自行编写并执行新代码,并认为半自主智能体在特定自主水平、任务范围和人类控制方式下可能收益大于风险。
Hugging Face 发布多语言视觉文档检索嵌入模型 vdr-2b-multi-v1,可直接编码文档页面截图,无需 OCR 或分块即可跨语言检索。模型基于 MrLight/dse-qwen2-2b-mrl-v1,与 LlamaIndex 合作训练,覆盖意大利语、西班牙语、英语、法语和德语,并同步开源含 50 万样本的 vdr-multilingual-train 数据集。
Hugging Face 在 Open LLM Leaderboard 上为 2742 个模型加入推理 CO₂ 排放估算,发现模型越大排放越高但排行榜得分增长递减,MoE 模型的得分排放比普遍偏低。社区微调模型比其官方基座更低碳,Qwen-2.5-14B 与 Phi-3-Medium 的得分排放比最佳。
Hugging Face 发布 smolagents,一个让语言模型获得智能体能力的轻量库,核心是 CodeAgent,即让智能体用代码而非 JSON 编写动作,并支持通过 E2B 在沙箱中执行。
推荐理由:Hugging Face 官方发布轻量智能体库,给出代码写动作的设计取舍与开源模型对比,可据此判断自建 Agent 的实现路径。
Hugging Face 发布教程,介绍用 torch.cuda.memory._record_memory_history 记录并可视化 PyTorch 训练中的 GPU 显存使用。
推荐理由:文章用 PyTorch 内存快照拆解训练各阶段显存占用,并给出可复用的显存估算公式。
NVIDIA 推出 LogitsProcessorZoo,一组模块化 logits 处理器,可控制序列长度、强制关键短语、引导多选题答案,并与 Hugging Face 的 generate 方法完全兼容。该库通过直接修改语言模型头部的预测分数实现细粒度控制,安装命令为 pip install logits-processor-zoo。
Answer.AI 与 LightOn 联合发布 ModernBERT,一个编码器模型系列,包含 base(149M 参数)和 large(395M 参数)两个版本,支持 8192 序列长度,可作为 BERT 类模型的直接替换。
推荐理由:ModernBERT 把 LLM 时代的架构与训练经验搬回编码器,读者可据此判断 BERT 类模型在检索与代码场景的替换空间。
IBM、Princeton、CMU 和 UIUC 联合发布 Bamba-9B,一个基于完全开放数据训练的混合 Mamba2 模型,在 vLLM 中相比标准 Transformer 实现 2.5 倍吞吐提升和 2 倍延迟加速。
阿布扎比技术创新研究院(TII)发布 Falcon3 开源模型家族,包含 Falcon3-1B-Base、3B-Base、Mamba-7B-Base、7B-Base 和 10B-Base 五款基础模型,参数规模均在 100 亿以下。
推荐理由:Falcon3 系列覆盖 1B 到 10B 五款开源模型,给出了预训练、深度扩展与蒸馏的具体做法和基准对比。
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4(第 5 代 Xeon,Emerald Rapids,支持 AMX)与 N2(第 3 代 Xeon,Ice Lake,仅 AVX-512)两款 96 vCPU 实例上,对文本嵌入和文本生成两类智能体 AI 负载做了对比。
Hugging Face 发布 Synthetic Data Generator,一个无代码应用,用户用自然语言描述需求即可借助 LLM 生成自定义数据集。工具目前支持文本分类和聊天数据集,分别约每分钟生成 50 和 20 个样本,底层由 distilabel 和免费的 Hugging Face text-generation API 驱动。
推荐理由:原文给出从提示词到数据集再到模型的完整无代码流程,读者可据此判断合成数据工具的实际可用边界。
Hugging Face 与 Entalpic 联合发布开源项目 LeMaterial,并推出首个数据集 LeMat-Bulk,整合 Materials Project、Alexandria 和 OQMD 三大材料数据库,形成 670 万条条目、7 种材料属性的统一数据格式,采用 CC-BY-4.0 许可。
Hugging Face 的 83 个开源模型现已通过 Amazon Bedrock Marketplace 提供,AWS 客户可直接部署并调用 Bedrock 的 Agents、Knowledge Bases、Guardrails 等 API。
Hugging Face 的 Data is Better Together 社区发布 Apache 2.0 许可的文本生成图像偏好数据集,覆盖多种图像生成类别,混合不同模型家族与不同复杂度的提示词。数据集基于 Flux 和 Stable Diffusion 模型生成图像,并附带可直接使用的偏好数据集与 flux-dev-lora-finetune。
Hugging Face 用 Keras、JAX 和 TPU 搭建了一个 chatbot arena,测试 LLM 在被指出错误后能否修正代码。实验在 TPU v5e 2x4 上以 bfloat16 同时加载了 5 个约 8B 参数模型和 3 个约 2B 参数模型,共 7 个 LLM,通过 Gradio 界面并行对话。
Google 发布新一代视觉语言模型 PaliGemma 2,沿用 SigLIP 图像编码器,文本解码器升级为 Gemma 2,提供 3B、10B、28B 三种参数规格,均支持 224x224、448x448、896x896 三种输入分辨率,而上一代 PaliGemma 仅有 3B 版本。
推荐理由:Google 新视觉语言模型给出 3B 到 28B 三种规格与三档分辨率,可据此判断微调选型空间。
Hugging Face 发布面向阿拉伯语 LLM 的生成式任务基准与排行榜 AraGen,采用新的 3C3H 评估指标,从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度基于 LLM-as-judge 打分。
Capital Fund Management(CFM)借助 Hugging Face Inference Endpoints 部署 Llama 3.1-70b-Instruct 生成标注、再用 Argilla 人工复核,微调出的小模型在金融 NER 任务上准确率最高提升 6.4%,推理成本较大模型降低最多 80 倍。