Hugging Face 发布 3LM:面向阿拉伯语 LLM 的 STEM 与代码基准
Hugging Face 推出 3LM(علم)基准,用于评估阿拉伯语 LLM 在 STEM 与代码生成上的表现,包含 865 道原生 STEM 选择题、1744 道合成高难度选择题,以及翻译自 HumanEval+ 和 MBPP+ 的阿拉伯语代码任务。
Hugging Face 推出 3LM(علم)基准,用于评估阿拉伯语 LLM 在 STEM 与代码生成上的表现,包含 865 道原生 STEM 选择题、1744 道合成高难度选择题,以及翻译自 HumanEval+ 和 MBPP+ 的阿拉伯语代码任务。
Hugging Face 将其 CLI 从 huggingface-cli 正式更名为 hf,命令按资源分组(如 hf auth、hf cache、hf repo),并保留旧命令兼容过渡。同时推出首个专属命令 hf jobs,可在 Hugging Face 基础设施上运行脚本或 Docker 镜像,按秒计费,仅对 Pro 用户及 Team 或 Enterprise 组织开放。
Hugging Face 发布教程,介绍如何用 Diffusers 和 PEFT 优化 Flux.1-Dev 的 LoRA 推理速度,在 H100 上通过 Flash Attention 3、torch.compile 和 FP8 量化实现约 2.23 倍加速,并借助 hotswap 避免重新编译。
推荐理由:原文给出 Flux LoRA 推理的完整优化配方与实测数据,读者可据此在 H100 或消费级 GPU 上复现加速。
NVIDIA 宣布 NIM 推理微服务现可在 Hugging Face 上支持超过 100,000 个 LLM 的快速可靠部署。NIM 提供单个 Docker 容器,自动识别模型格式、架构与量化格式(如 FP16、FP8、INT4),并在 NVIDIA TensorRT-LLM、vLLM 和 SGLang 之间选择推理后端,无需手动配置。
推荐理由:NIM 用单个容器自动识别模型格式并选择推理后端,读者可据此判断多模型部署流程能简化到什么程度。
Gradio 5.38.0 为 MCP Server 带来五项改进:新增 "File Upload" MCP server 让智能体直接上传本地文件,支持实时进度通知,并可通过 gr.load_openapi 一行代码将 OpenAPI 规范转为 MCP 工具。此外,参数可声明为 gr.Header 自动提取认证头,工具描述可用 api_description 自定义。
Hugging Face 博客发布 Ettin Suite,这是首个用完全相同的数据(2T tokens)、架构形状和训练配方训练的 SoTA 配对编码器与解码器模型系列,参数规模覆盖 17M 到 1B。
Mistral 发布 Voxtral 语音理解模型,提供 24B 和 3B 两种尺寸,均以 Apache 2.0 许可开源并上线 API。模型支持 32k token 上下文,可处理最长 30 分钟音频转写或 40 分钟音频理解,具备内置问答与摘要、多语言自动检测和语音触发函数调用能力。
推荐理由:Mistral 开源语音理解模型,给出两种尺寸、Apache 2.0 许可与 API 定价,读者可据此判断语音能力的开放程度与成本。
Hugging Face 官方宣布 Hub 存储后端从 Git LFS 迁移到 Xet,已有 50 万个仓库、20 PB 数据完成迁移,超过 100 万用户在用。迁移通过 Git LFS Bridge 和后台迁移流程实现,旧客户端仍可正常上传下载,无需改变工作流。从本月起 Xet 将向所有用户开放,现有仓库会自动迁移,新仓库默认启用 Xet,后续计划开源 Xet 协议及整套基础设施。
推荐理由:Hugging Face 官方复盘 Hub 从 Git LFS 迁移到 Xet 的工程细节,可供理解大规模存储迁移的兼容与扩容方案。
Mistral AI 与 All Hands AI 合作发布 Devstral Medium,并升级 Devstral Small 1.1。
推荐理由:Mistral 与 All Hands AI 联合发布两款编码智能体模型,给出了 SWE-Bench Verified 成绩与 API 定价,便于对比开源与闭源方案。
Numina 与 Kimi 团队发布定理证明模型 Kimina-Prover-72B,基于 Qwen2.5-72B 并用 Kimi k1.5 的 RL 流程训练,同时开源 8B 和 1.7B 蒸馏版本。
Hugging Face 发布 ScreenEnv,一个可在 Docker 容器中创建隔离 Ubuntu 桌面环境的 Python 库,用于测试和部署 GUI 智能体(Computer Use 智能体)。
推荐理由:Hugging Face 开源了在 Docker 中部署桌面智能体的 Python 库,读者可据此了解 GUI Agent 的沙箱化落地方式。
Hugging Face 发布官方 MCP Server(hf.co/mcp),通过一个 URL 让 AI 助手访问 Hub 及数千个 Spaces 应用,并支持用户自定义工具。
Hugging Face 与 Pollen Robotics 发布开源机器人 Reachy Mini,Lite 版 399 美元、带 Raspberry Pi 4 与电池的 Compute 版 499 美元,均需另付税费和运费,预计约 90 天发货。
推荐理由:Reachy Mini 给出了开源硬件规格、两档价格与 Hugging Face 行为库入口,可据此判断桌面机器人开发门槛。
Hugging Face 与 AMD 合作,为 AMD MI300X 编写自定义内核,在 8 卡 MI300X 节点上用 VLLM 服务 Llama 3.1 405B FP8 时取得显著加速。
Hugging Face 博客介绍如何通过 Gradio 的 MCP 支持,把 Hugging Face Spaces 上的数千个 AI 应用接入 LLM 作为工具使用。
推荐理由:以 Flux.1 Kontext 为例演示如何把 Hugging Face Spaces 上的 MCP 服务器接入 LLM,方法可直接复用。
Hugging Face 基础设施团队公开了支撑其生产环境的三大关键告警机制,分别覆盖 NAT 网关吞吐量、Hub 请求日志归档成功率等环节。其中 NAT 网关吞吐量告警采用静态阈值,用于捕捉流量异常并提示团队优化网络路径与成本。日志归档链路则依托 Filebeat、Logstash 与 Elasticsearch 完成采集、加工与存储。
Hugging Face 发布 SmolLM3,一个完全开源的 3B 模型,在 11T token 上训练,支持 think/no_think 双模式推理、6 种语言和最长 128k 上下文。该模型在 3B 规模上超越 Llama-3.2-3B 和 Qwen2.5-3B,并与 Qwen3、Gemma3 等 4B 模型竞争。团队同时公开了预训练、中训练、后训练及合成数据生成的完整配方和数据集。
推荐理由:Hugging Face 公开了 SmolLM3 的完整训练配方与数据配比,读者可据此复现或改进 3B 级小模型。
Mistral AI 推出 AI for Citizens 协作计划,帮助各国政府和公共机构战略性地运用 AI 改造公共服务、推动创新并保障竞争力。该计划已与法国、卢森堡、新加坡、荷兰、英国、瑞士等国政府、国防部队、公共部门机构和教育机构展开合作,提供开放模型、自托管部署、数据主权保障及定制化研发等选项,以替代封闭不透明的“一刀切”AI 方案。
Sentence Transformers 现已支持训练和微调稀疏嵌入模型,可产出如 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 这类低成本模型,尤其适合混合搜索或检索重排场景。
NVIDIA 发布 Llama Nemotron Nano VL,一个基于 Llama-3.1-8B-Instruct 和 C-RADIOv2-VLM-H 视觉编码器的 8B 视觉语言模型,面向发票、合同等复杂文档的 OCR 与信息抽取,已在 Hugging Face 上线并可通过 NVIDIA NIM API 调用。
Gemma 3n 正式在 transformers、timm、MLX、llama.cpp、transformers.js、ollama 和 Google AI Edge 等主流开源库中可用,发布 gemma-3n-E2B 与 gemma-3n-E4B 两个尺寸,各有 base 和 instruct 两个版本。
推荐理由:原文给出 Gemma 3n 在主流开源库的落地方式与端侧内存占用,读者可据此判断本地多模态部署的可行性。
SGLang 现已支持将 Hugging Face transformers 作为后端,可直接以高性能推理运行任意 transformers 兼容模型,无需原生适配。
Hugging Face 发布教程,介绍如何用 QLoRA 配合 diffusers 在单张 GPU 上微调 FLUX.1-dev,峰值显存约 10GB 以内。
推荐理由:给出在单张消费级 GPU 上微调 FLUX.1-dev 的完整配置与显存实测数据,方法可直接复用。
Groq 现已作为推理服务商接入 Hugging Face Hub,支持 Llama 4、Qwen QWQ-32B 等开源模型,并集成到 JS 和 Python 客户端 SDK。Groq 基于 LPU 提供低延迟、高吞吐的推理,采用按需付费模式。用户可在账户设置中配置 API key 或通过 HF 路由调用,PRO 用户每月获 2 美元推理额度。
Hugging Face 发布 Kernel Hub,允许 Python 库和应用通过 kernels 库的 get_kernel 函数直接从 Hub 加载预编译的优化计算 kernel,无需本地编译。
Featherless AI 现已作为 Inference Provider 接入 Hugging Face Hub,支持 DeepSeek、Meta、Google、Qwen 等开源文本与对话模型,并集成到 JS 和 Python 客户端 SDK(需 huggingface_hub v0.33.0 及以上)。
NVIDIA 发布 Isaac GR00T N1.5,这是 Isaac GR00T N1 的首次重大更新,可通过后训练适配具体本体、任务和环境。博客给出完整教程,演示如何用单台 SO-101 机械臂的遥操作数据微调 GR00T N1.5,涵盖环境安装、数据集准备、微调、开环评估和真机部署五步。
推荐理由:原文给出用单臂遥操作数据微调 GR00T N1.5 的完整命令流程,可迁移到其他机器人本体。
Mistral AI 发布 Mistral Compute,提供私有、集成的 AI 基础设施栈,涵盖 GPU、编排、API、产品与服务,形态从裸金属服务器到全托管 PaaS。
推荐理由:Mistral 把自建训练平台对外产品化,读者可据此判断欧洲主权 AI 基础设施的供给格局。
Mistral AI 发布首款推理模型 Magistral,分为 24B 参数开源版 Magistral Small 和企业版 Magistral Medium。
推荐理由:Mistral 首款推理模型同时给出开源权重与企业版,并公开训练论文,读者可据此判断其多语言推理与部署路径。
Hugging Face 发布 ScreenSuite,一个面向 GUI Agent 的综合评测套件,统一整合了 13 个基准,覆盖感知、定位、单步动作和多步智能体四类能力。
推荐理由:Hugging Face 开源 GUI Agent 评测套件,统一 13 个基准并支持 Docker 本地部署,可据此判断视觉语言模型的智能体能力。
Hugging Face 的 nanoVLM 仓库从零实现了 KV Cache,使自回归生成速度提升 38%。该实现覆盖 Attention 块、逐层缓存的语言模型以及区分 prefill 与 decode 阶段的生成循环,经验可推广到所有自回归语言模型推理。
Arm 工程师 Michael Gamble 用 Stable Audio Open 模型在 Arm CPU 上构建了一款本地实时音效生成工具,无需 GPU 和云端推理,输入提示词几秒内即可生成 .wav 文件并直接导入 Ableton Live。该工具基于 PyTorch 和 TorchAudio,采用多线程优化,扩散采样步数降至 7 步,也支持 Metal 和 CUDA 设备。
H Company 发布 Holo1 系列 Action VLM 和 WebClick 多模态定位基准,Holo1 包含 3B 与 7B 两个版本,基于 Qwen2.5-VL 架构,7B 版本在常见 UI 定位基准上平均准确率达 76.2%。
推荐理由:Holo1 开源了 GUI 定位模型与 WebClick 基准,并给出 Surfer-H 在 WebVoyager 上的成本与准确率数据,便于评估网页自动化方案。
TRL 从 v0.18.0 起支持 vLLM 与 GRPO 训练同卡部署(colocate),训练和推理共享同一批 GPU 并轮流执行,不再需要单独的推理服务器。
推荐理由:TRL 把 vLLM 与 GRPO 训练放在同一批 GPU 上,读者可据此判断在线学习训练的显存与吞吐取舍。
Hugging Face 发布 SmolVLA,一个 450M 参数的开源视觉-语言-动作模型,可在消费级硬件上运行,仅用 lerobot 标签下的社区共享数据集预训练。
推荐理由:450M 的 VLA 模型仅用社区数据预训练就能在仿真和真机上超过更大模型,读者可据此判断开源机器人策略的可行路径。
用户在使用 Qwen2.5-0.5B-Instruct 以 bf16 精度结合 DeepSpeed ZeRO3 测试 Liger GRPO loss 时,于 TRL 的 GRPO Trainer 中触发形状不匹配报错。
Dell 在 Dell Tech World 上发布新版 Dell Enterprise Hub,提供可在本地部署和训练的模型与应用套件,支持 Meta Llama 4 Maverick、DeepSeek R1、Google Gemma 3 等模型,Llama 4 在 Meta 公开发布后 1 小时内即上线。
Hugging Face 发布 Python 版 Tiny Agents,将 huggingface_hub 客户端 SDK 扩展为 MCP Client,可从 MCP 服务器拉取工具并在推理时传给 LLM,核心智能体代码约 70 行。
推荐理由:Hugging Face 把 MCP 客户端并入 huggingface_hub,读者可据此用约 70 行代码搭出可复用工具调用的智能体。
Mistral AI 与 All Hands AI 合作发布面向软件工程任务的智能体模型 Devstral,在 SWE-Bench Verified 上得分 46.8%,比此前开源 SoTA 模型高出 6 个百分点以上,并以 Apache 2.0 许可开源。
推荐理由:官方给出 Devstral 在 SWE-Bench Verified 的分数与开源许可、部署门槛,读者可据此判断它能否替代现有编码智能体方案。
Falcon-H1 系列发布六个开源模型,参数从 0.5B 到 34B,每个尺寸都有 base 和 instruct 版本,采用 Apache 2.0 许可。模型在混合 mixer 块中并行组合注意力与 Mamba-2 头,支持 256K 上下文和 18 种语言,官方称 0.5B 版本性能接近 2024 年的典型 7B 模型。
推荐理由:Falcon-H1 用注意力与 SSM 并行混合架构,在 0.5B 到 34B 六个尺寸上给出效率与长上下文表现,可据此判断小模型部署的取舍。