Hugging Face 发布轻量实验追踪库 Trackio
Hugging Face 发布开源免费的实验追踪 Python 库 Trackio,提供本地 Gradio 仪表盘并可同步到 Hugging Face Spaces 分享。
Hugging Face 发布开源免费的实验追踪 Python 库 Trackio,提供本地 Gradio 仪表盘并可同步到 Hugging Face Spaces 分享。
Hugging Face 在 PyArrow 和 Pandas 中上线 Parquet 内容定义分块(CDC)功能,配合 Xet 存储层实现 Parquet 文件去重,仅上传或下载发生变化的 chunk,从而降低数据传输与存储成本。
Hugging Face 将其 CLI 从 huggingface-cli 正式更名为 hf,命令按资源分组(如 hf auth、hf cache、hf repo),并保留旧命令兼容过渡。同时推出首个专属命令 hf jobs,可在 Hugging Face 基础设施上运行脚本或 Docker 镜像,按秒计费,仅对 Pro 用户及 Team 或 Enterprise 组织开放。
Hugging Face 开源长视频理解基准 TimeScope,通过在 1 分钟至 8 小时的视频中插入 5-10 秒的"针"片段,评测模型的局部检索、信息综合与细粒度时序感知三项能力。测试显示,包括 Gemini 2.5-Pro 在内的领先视觉语言模型在真正的长视频任务上仍表现吃力,性能随视频变长明显下滑。
Hugging Face 发布教程,介绍如何用 Diffusers 和 PEFT 优化 Flux.1-Dev 的 LoRA 推理速度,在 H100 上通过 Flash Attention 3、torch.compile 和 FP8 量化实现约 2.23 倍加速,并借助 hotswap 避免重新编译。
推荐理由:原文给出 Flux LoRA 推理的完整优化配方与实测数据,读者可据此在 H100 或消费级 GPU 上复现加速。
NVIDIA 宣布 NIM 推理微服务现可在 Hugging Face 上支持超过 100,000 个 LLM 的快速可靠部署。NIM 提供单个 Docker 容器,自动识别模型格式、架构与量化格式(如 FP16、FP8、INT4),并在 NVIDIA TensorRT-LLM、vLLM 和 SGLang 之间选择推理后端,无需手动配置。
推荐理由:NIM 用单个容器自动识别模型格式并选择推理后端,读者可据此判断多模型部署流程能简化到什么程度。
Arc Institute 发起 Virtual Cell Challenge,要求参赛者训练模型预测 CRISPR 沉默基因对(部分)未见细胞类型的影响,即"上下文泛化"。
开发者基于 Gradio Agents & MCP Hackathon 构建了多 LLM 平台 Consilium,让多个 AI 模型通过结构化辩论、多数投票和排序选择等模式就复杂问题达成共识。该平台同时提供可视化 Gradio 界面和 MCP server,可集成 Cline 等应用,并引入倡导者、批判分析师、战略顾问等角色及 Ring、Star 两种通信结构。
Hugging Face 发布 FutureBench,用真实预测市场和新闻生成的问题评估 AI 智能体预测未来事件的能力。该基准通过基于 smolagents 的智能体抓取新闻生成预测问题,并接入 Polymarket 数据,每周约摄入 8 个问题,采用 DeepSeek-V3 生成问题、Firecrawl 抓取内容、Tavily 补充搜索。
Gradio 5.38.0 为 MCP Server 带来五项改进:新增 "File Upload" MCP server 让智能体直接上传本地文件,支持实时进度通知,并可通过 gr.load_openapi 一行代码将 OpenAPI 规范转为 MCP 工具。此外,参数可声明为 gr.Header 自动提取认证头,工具描述可用 api_description 自定义。
Hugging Face 博客发布 Ettin Suite,这是首个用完全相同的数据(2T tokens)、架构形状和训练配方训练的 SoTA 配对编码器与解码器模型系列,参数规模覆盖 17M 到 1B。
Hugging Face 官方宣布 Hub 存储后端从 Git LFS 迁移到 Xet,已有 50 万个仓库、20 PB 数据完成迁移,超过 100 万用户在用。迁移通过 Git LFS Bridge 和后台迁移流程实现,旧客户端仍可正常上传下载,无需改变工作流。从本月起 Xet 将向所有用户开放,现有仓库会自动迁移,新仓库默认启用 Xet,后续计划开源 Xet 协议及整套基础设施。
推荐理由:Hugging Face 官方复盘 Hub 从 Git LFS 迁移到 Xet 的工程细节,可供理解大规模存储迁移的兼容与扩容方案。
Hugging Face 发布博客详解异步机器人推理,通过将动作预测与执行解耦,让机器人在等待新动作块计算时持续执行当前动作,实现约 2 倍任务完成速度提升且成功率相当。
Hugging Face 发布 ScreenEnv,一个可在 Docker 容器中创建隔离 Ubuntu 桌面环境的 Python 库,用于测试和部署 GUI 智能体(Computer Use 智能体)。
推荐理由:Hugging Face 开源了在 Docker 中部署桌面智能体的 Python 库,读者可据此了解 GUI Agent 的沙箱化落地方式。
Hugging Face 发布官方 MCP Server(hf.co/mcp),通过一个 URL 让 AI 助手访问 Hub 及数千个 Spaces 应用,并支持用户自定义工具。
Hugging Face 与 Pollen Robotics 发布开源机器人 Reachy Mini,Lite 版 399 美元、带 Raspberry Pi 4 与电池的 Compute 版 499 美元,均需另付税费和运费,预计约 90 天发货。
推荐理由:Reachy Mini 给出了开源硬件规格、两档价格与 Hugging Face 行为库入口,可据此判断桌面机器人开发门槛。
Hugging Face 与 AMD 合作,为 AMD MI300X 编写自定义内核,在 8 卡 MI300X 节点上用 VLLM 服务 Llama 3.1 405B FP8 时取得显著加速。
Hugging Face 博客介绍如何通过 Gradio 的 MCP 支持,把 Hugging Face Spaces 上的数千个 AI 应用接入 LLM 作为工具使用。
推荐理由:以 Flux.1 Kontext 为例演示如何把 Hugging Face Spaces 上的 MCP 服务器接入 LLM,方法可直接复用。
Hugging Face 以 nanoVLM 项目为例,展示如何用五阶段构建高效多模态数据管道,解决 GPU 空转与填充浪费问题。朴素填充阶段约 60% 的 batch 被空 token 占用,随后通过约束填充、背包算法打包和 ConstantLengthDataset 逐步优化。
Hugging Face 基础设施团队公开了支撑其生产环境的三大关键告警机制,分别覆盖 NAT 网关吞吐量、Hub 请求日志归档成功率等环节。其中 NAT 网关吞吐量告警采用静态阈值,用于捕捉流量异常并提示团队优化网络路径与成本。日志归档链路则依托 Filebeat、Logstash 与 Elasticsearch 完成采集、加工与存储。
Hugging Face 发布 SmolLM3,一个完全开源的 3B 模型,在 11T token 上训练,支持 think/no_think 双模式推理、6 种语言和最长 128k 上下文。该模型在 3B 规模上超越 Llama-3.2-3B 和 Qwen2.5-3B,并与 Qwen3、Gemma3 等 4B 模型竞争。团队同时公开了预训练、中训练、后训练及合成数据生成的完整配方和数据集。
推荐理由:Hugging Face 公开了 SmolLM3 的完整训练配方与数据配比,读者可据此复现或改进 3B 级小模型。
Hugging Face 上线 NeurIPS 2025 E2LM 竞赛,面向 LLM 早期训练阶段(约 200B tokens 以内)构建科学知识领域的评测基准,参赛者需基于 lm-evaluation-harness 通过 HuggingFace Space 提交方案。
Sentence Transformers 现已支持训练和微调稀疏嵌入模型,可产出如 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 这类低成本模型,尤其适合混合搜索或检索重排场景。
NVIDIA 发布 Llama Nemotron Nano VL,一个基于 Llama-3.1-8B-Instruct 和 C-RADIOv2-VLM-H 视觉编码器的 8B 视觉语言模型,面向发票、合同等复杂文档的 OCR 与信息抽取,已在 Hugging Face 上线并可通过 NVIDIA NIM API 调用。
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama 和 Google AI Edge 等主流开源库中可用,发布 gemma-3n-E2B 与 gemma-3n-E4B 两个尺寸,各有 base 和 instruct 两个版本。
推荐理由:原文给出 Gemma 3n 在主流开源库的落地方式与端侧内存占用,读者可据此判断本地多模态部署的可行性。
SGLang 现已支持将 Hugging Face transformers 作为后端,可直接以高性能推理运行任意 transformers 兼容模型,无需原生适配。
Hugging Face 发布教程,介绍如何用 QLoRA 配合 diffusers 在单张 GPU 上微调 FLUX.1-dev,峰值显存约 10GB 以内。
推荐理由:给出在单张消费级 GPU 上微调 FLUX.1-dev 的完整配置与显存实测数据,方法可直接复用。
Groq 现已作为推理服务商接入 Hugging Face Hub,支持 Llama 4、Qwen QWQ-32B 等开源模型,并集成到 JS 和 Python 客户端 SDK。Groq 基于 LPU 提供低延迟、高吞吐的推理,采用按需付费模式。用户可在账户设置中配置 API key 或通过 HF 路由调用,PRO 用户每月获 2 美元推理额度。
Hugging Face 发布 Kernel Hub,允许 Python 库和应用通过 kernels 库的 get_kernel 函数直接从 Hub 加载预编译的优化计算 kernel,无需本地编译。
Featherless AI 现已作为 Inference Provider 接入 Hugging Face Hub,支持 DeepSeek、Meta、Google、Qwen 等开源文本与对话模型,并集成到 JS 和 Python 客户端 SDK(需 huggingface_hub v0.33.0 及以上)。
NVIDIA 发布 Isaac GR00T N1.5,这是 Isaac GR00T N1 的首次重大更新,可通过后训练适配具体本体、任务和环境。博客给出完整教程,演示如何用单台 SO-101 机械臂的遥操作数据微调 GR00T N1.5,涵盖环境安装、数据集准备、微调、开环评估和真机部署五步。
推荐理由:原文给出用单臂遥操作数据微调 GR00T N1.5 的完整命令流程,可迁移到其他机器人本体。
Hugging Face 与 NVIDIA 在 GTC Paris 宣布合作推出 Training Cluster as a Service,让全球研究机构更便捷地获取大型 GPU 集群,按训练时长付费。
推荐理由:Hugging Face 与 NVIDIA 把 GPU 集群申请、调度和训练工具串成一条流程,读者可据此判断算力获取方式的变化。
Hugging Face 发布 ScreenSuite,一个面向 GUI Agent 的综合评测套件,统一整合了 13 个基准,覆盖感知、定位、单步动作和多步智能体四类能力。
推荐理由:Hugging Face 开源 GUI Agent 评测套件,统一 13 个基准并支持 Docker 本地部署,可据此判断视觉语言模型的智能体能力。
Hugging Face 的 nanoVLM 仓库从零实现了 KV Cache,使自回归生成速度提升 38%。该实现覆盖 Attention 块、逐层缓存的语言模型以及区分 prefill 与 decode 阶段的生成循环,经验可推广到所有自回归语言模型推理。
Arm 工程师 Michael Gamble 用 Stable Audio Open 模型在 Arm CPU 上构建了一款本地实时音效生成工具,无需 GPU 和云端推理,输入提示词几秒内即可生成 .wav 文件并直接导入 Ableton Live。该工具基于 PyTorch 和 TorchAudio,采用多线程优化,扩散采样步数降至 7 步,也支持 Metal 和 CUDA 设备。
H Company 发布 Holo1 系列 Action VLM 和 WebClick 多模态定位基准,Holo1 包含 3B 与 7B 两个版本,基于 Qwen2.5-VL 架构,7B 版本在常见 UI 定位基准上平均准确率达 76.2%。
推荐理由:Holo1 开源了 GUI 定位模型与 WebClick 基准,并给出 Surfer-H 在 WebVoyager 上的成本与准确率数据,便于评估网页自动化方案。
TRL 从 v0.18.0 起支持 vLLM 与 GRPO 训练同卡部署(colocate),训练和推理共享同一批 GPU 并轮流执行,不再需要单独的推理服务器。
推荐理由:TRL 把 vLLM 与 GRPO 训练放在同一批 GPU 上,读者可据此判断在线学习训练的显存与吞吐取舍。
Hugging Face 发布 SmolVLA,一个 450M 参数的开源视觉-语言-动作模型,可在消费级硬件上运行,仅用 lerobot 标签下的社区共享数据集预训练。
推荐理由:450M 的 VLA 模型仅用社区数据预训练就能在仿真和真机上超过更大模型,读者可据此判断开源机器人策略的可行路径。
Hugging Face 研究发现,强制 CodeAgent 以结构化 JSON 格式同时生成 thoughts 和 code,在 GAIA、MATH、SimpleQA、Frames 等基准上平均比普通 CodeAgent 高出 2-7 个百分点。
用户在使用 Qwen2.5-0.5B-Instruct 以 bf16 精度结合 DeepSpeed ZeRO3 测试 Liger GRPO loss 时,于 TRL 的 GRPO Trainer 中触发形状不匹配报错。