Hugging Face 用 Jupyter Notebook 数据训练小模型做数据分析智能体
Hugging Face 发布 Jupyter Agent 项目，用约 2TB Kaggle notebook 经去重、教育质量打分、QA 与轨迹生成后得到 51k 合成 notebook、近 0.2B token 的数据集，微调 Qwen3-4B。
推荐理由：完整披露了从 Kaggle notebook 清洗到 SFT 的数据管线与脚手架改动，可迁移到其他小模型智能体训练。
#数据/训练
#数据/训练
今日 5 条Hugging Face Blog精选AI 评分6060
Hugging Face BlogAI 评分5252 mmBERT 发布：ModernBERT 走向多语言，覆盖 1800 多种语言
Hugging Face 博客介绍 mmBERT，一个基于 ModernBERT 的多语言编码器模型，用 3T+ token、覆盖 1800 多种语言的数据训练，官方称其是首个在性能上超越 XLM-R 的多语言模型。
Hugging Face BlogAI 评分3838 SandboxAQ 开源 SAIR 数据集：500 万+ 蛋白质-配体 3D 结构加速药物研发
SandboxAQ 在 Hugging Face 上开源 SAIR 数据集，包含超 500 万个 AI 生成的高精度蛋白质-配体 3D 结构，每个结构均配有 ChEMBL 或 BindingDB 的实验 IC₅₀ 数据，采用 CC BY 4.0 许可免费开放。
Berkeley AI ResearchAI 评分2424 word2vec 究竟学到了什么？伯克利 AI 研究给出闭式理论解释
伯克利 AI 研究证明，在小型初始化、四阶近似等温和条件下，word2vec 的学习问题可化简为无权重最小二乘矩阵分解，其梯度流动力学有闭式解，最终学到的表示等价于对目标矩阵 M* 做 PCA。训练中模型按离散步骤逐个学习正交线性子空间，每步提升嵌入矩阵的秩并降低损失，这些特征即 M* 的顶部特征向量，可由语料统计和超参数预先算出。
OpenAI NewsAI 评分4040 OpenAI 与 Retro Bio 用 GPT-4b micro 加速生命科学研究
OpenAI 与 Retro Bio 借助专用 AI 模型 GPT-4b micro，为干细胞疗法和长寿研究设计出更有效的蛋白质。该模型专为生命科学研究打造，用于蛋白质工程改造。
Hugging Face Blog精选AI 评分6060 NVIDIA 发布 600 万条多语言推理数据集并推出 Nemotron Nano 2 9B
NVIDIA 发布 Nemotron Post-Training Dataset V2，将英文推理数据翻译为法语、德语、意大利语、日语和西班牙语，共 600 万条多语言样本，数据集已在 Hugging Face 开放。
推荐理由：NVIDIA 公开了多语言推理数据集的构建与过滤细节，并给出配套 9B 模型的端侧部署参数。
Hugging Face BlogAI 评分3838 Kimina-Prover-RL：开源 Lean 4 定理证明训练管线，兼容 Verl
Kimina Prover 团队开源了 kimina-prover-rl 训练管线，基于 DeepSeek-R1 式"先推理后生成"范式，用于 Lean 4 形式化定理证明，并完全兼容 Verl 框架。
Hugging Face BlogAI 评分3838 Accelerate ND-Parallel 指南：如何高效进行多 GPU 训练
Hugging Face 在 Accelerate 中联合 Axolotl 集成了 ND-Parallel，可通过 ParallelismConfig 组合数据并行、FSDP、张量并行与上下文并行等多种策略。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 AI Sheets：用开放模型无代码处理数据集
Hugging Face 发布开源无代码工具 AI Sheets，可在表格界面中通过写提示词新建列，用 AI 模型构建、转换和丰富数据集，支持本地部署或部署到 Hub。
推荐理由：Hugging Face 官方开源的无代码数据集工具，展示了用提示词列批量调用开放模型的具体工作流。
Hugging Face BlogAI 评分2222 Hugging Face 发布 3LM：面向阿拉伯语 LLM 的 STEM 与代码基准
Hugging Face 推出 3LM（علم）基准，用于评估阿拉伯语 LLM 在 STEM 与代码生成上的表现，包含 865 道原生 STEM 选择题、1744 道合成高难度选择题，以及翻译自 HumanEval+ 和 MBPP+ 的阿拉伯语代码任务。
Mistral AIAI 评分4040 Mistral 微调 Pixtral-12B 提升卫星图像分类能力
Mistral 用 LoRA 微调 Pixtral-12B，在 Aerial Image Dataset（AID）卫星图像分类任务上显著优于基座模型。基座模型在 Playground、Stadium 等易混类别上出错，还会幻觉出不存在的类别名；微调后分类指标提升，且无需大量超参数调优，可通过 Mistral 微调 API 或 LaPlateforme UI 完成。
Hugging Face BlogAI 评分5757 Hugging Face 发布轻量实验追踪库 Trackio
Hugging Face 发布开源免费的实验追踪 Python 库 Trackio，提供本地 Gradio 仪表盘并可同步到 Hugging Face Spaces 分享。
Hugging Face BlogAI 评分3434 Hugging Face 为 Parquet 引入内容定义分块（CDC）
Hugging Face 在 PyArrow 和 Pandas 中上线 Parquet 内容定义分块（CDC）功能，配合 Xet 存储层实现 Parquet 文件去重，仅上传或下载发生变化的 chunk，从而降低数据传输与存储成本。
Mistral AIAI 评分3838 Mistral AI 发布首个 AI 模型全生命周期环境影响研究，为行业环境标准提供依据
Mistral AI 联合 Carbone 4 和法国生态转型署（ADEME）完成首个 AI 模型全生命周期分析，并公开两项指标：Mistral Large 2 截至 2025 年 1 月训练及 18 个月使用产生 20.4 ktCO₂e。
Hugging Face BlogAI 评分3333 Arc Institute 虚拟细胞挑战赛入门指南：用 STATE 模型预测基因沉默效应
Arc Institute 发起 Virtual Cell Challenge，要求参赛者训练模型预测 CRISPR 沉默基因对（部分）未见细胞类型的影响，即"上下文泛化"。
Hugging Face BlogAI 评分5252 Ettin Suite 发布：同配方训练的 SoTA 配对编码器与解码器
Hugging Face 博客发布 Ettin Suite，这是首个用完全相同的数据（2T tokens）、架构形状和训练配方训练的 SoTA 配对编码器与解码器模型系列，参数规模覆盖 17M 到 1B。
Hugging Face BlogAI 评分5454 Numina 与 Kimi 团队发布 Kimina-Prover-72B 定理证明模型
Numina 与 Kimi 团队发布定理证明模型 Kimina-Prover-72B，基于 Qwen2.5-72B 并用 Kimi k1.5 的 RL 流程训练，同时开源 8B 和 1.7B 蒸馏版本。
Hugging Face BlogAI 评分3838 Hugging Face 详解高效多模态数据管道：从朴素填充到背包算法
Hugging Face 以 nanoVLM 项目为例，展示如何用五阶段构建高效多模态数据管道，解决 GPU 空转与填充浪费问题。朴素填充阶段约 60% 的 batch 被空 token 占用，随后通过约束填充、背包算法打包和 ConstantLengthDataset 逐步优化。
Hugging Face BlogAI 评分2222 Hugging Face 公布 NeurIPS 2025 E2LM 竞赛：评估大语言模型早期训练
Hugging Face 上线 NeurIPS 2025 E2LM 竞赛，面向 LLM 早期训练阶段（约 200B tokens 以内）构建科学知识领域的评测基准，参赛者需基于 lm-evaluation-harness 通过 HuggingFace Space 提交方案。
OpenAI NewsAI 评分3535 OpenAI 研究错误回答训练如何导致模型失准泛化
OpenAI 研究发现，用错误回答训练语言模型会引发更广泛的失准行为，并识别出驱动这一行为的内部特征，该特征可通过极少量微调逆转。
Hugging Face Blog精选AI 评分6262 TRL 引入 vLLM 同卡部署，GRPO 训练吞吐最高提升 1.73 倍
TRL 从 v0.18.0 起支持 vLLM 与 GRPO 训练同卡部署（colocate），训练和推理共享同一批 GPU 并轮流执行，不再需要单独的推理服务器。
推荐理由：TRL 把 vLLM 与 GRPO 训练放在同一批 GPU 上，读者可据此判断在线学习训练的显存与吞吐取舍。
Hugging Face BlogAI 评分1212 Liger GRPO 与 TRL 集成在 DeepSpeed ZeRO3 下出现形状不匹配
用户在使用 Qwen2.5-0.5B-Instruct 以 bf16 精度结合 DeepSpeed ZeRO3 测试 Liger GRPO loss 时，于 TRL 的 GRPO Trainer 中触发形状不匹配报错。
Hugging Face BlogAI 评分3636 Falcon-Arabic：阿拉伯语语言模型的突破
阿联酋 TII 发布 7B 参数的 Falcon-Arabic，基于 Falcon 3 架构，支持阿拉伯语、英语等多种语言，上下文长度 32,000 tokens。该模型在 OALL v2 基准上超越同尺寸及最多 4 倍大的阿拉伯语 LLM，训练采用扩展 32,000 个阿拉伯语 token 的词表与 100% 原生阿拉伯语数据。
Hugging Face Blog精选AI 评分6262 Falcon-Edge 发布：可微调的 1.58bit 三元语言模型系列
Falcon-Edge 系列发布，基于 BitNet 架构，提供 1B 和 3B 两种参数规模，每种都有 base 和指令微调版本，权重以三元格式（{-1, 0, 1}）存储。
推荐理由：Falcon-Edge 用单次预训练同时产出 bfloat16 与三元量化版本，读者可据此了解 1.58bit 模型在端侧部署与微调上的新路径。
Hugging Face BlogAI 评分3838 LeRobot 社区数据集：机器人领域的“ImageNet”——何时与如何实现？
Hugging Face 发文称 LeRobot 社区贡献数据集正快速增长，目标是打造机器人领域的“ImageNet”，将泛化视为数据问题而非单纯的模型能力问题。
Hugging Face BlogAI 评分2626 Intel 推出 AutoRound：面向 LLM 与 VLM 的先进量化工具
Intel 发布权重仅训练后量化方法 AutoRound，通过符号梯度下降联合优化权重取整与截断范围，支持 INT2-INT8 低比特量化，INT2 下相对精度最高达主流基线 2.1 倍。
Hugging Face Blog精选AI 评分6262 ServiceNow 开源 PipelineRL：用飞行中权重更新提升 LLM 强化学习训练效率
ServiceNow 开源实验性 RL 实现 PipelineRL，核心创新是在 RL 训练中进行飞行中权重更新，让推理服务器在不停止推理的情况下接收新权重，从而同时保持高推理吞吐和接近 on-policy 的数据采集。
推荐理由：ServiceNow 开源 PipelineRL，用飞行中权重更新化解推理吞吐与 on-policy 数据采集的取舍，并给出 7B/32B 训练对比结果。
Hugging Face BlogAI 评分3939 HELMET：全面评估长上下文语言模型的基准
Hugging Face 博客介绍 HELMET（How to Evaluate Long-Context Models Effectively and Thoroughly），一个从多样性、可控性和可靠性三方面改进现有方案的长上下文语言模型评测基准，已评估 59 个近期 LCLM。
Hugging Face BlogAI 评分2222 Hugging Face 与 MBZUAI 推出 Arabic-Leaderboards，新增阿拉伯语指令遵循评测
Hugging Face 与 MBZUAI 合作推出 Arabic-Leaderboards 统一评测平台，目前上线 AraGen-03-25 和 Arabic Instruction Following 两个榜单。
Hugging Face BlogAI 评分2828 Hugging Face 的 NLP Course 升级并更名为 LLM Course
Hugging Face 将已运营 3 年的 NLP Course 更名为 LLM Course，并新增微调 LLM、构建 DeepSeek R1 等推理模型的章节。
Hugging Face Blog精选AI 评分7171 NVIDIA 在 GTC 2025 发布 Cosmos Transfer、Physical AI Dataset 与 Isaac GR00T N1
NVIDIA 在 GTC 2025 上发布三项面向物理 AI 开发的开源成果：世界基础模型 Cosmos Transfer、Physical AI Dataset 以及人形机器人基础模型 NVIDIA Isaac GR00T N1。
推荐理由：NVIDIA 在 GTC 2025 一次性开源世界模型、数据集与人形机器人基础模型，读者可据此了解物理 AI 开发可用的工具链。
Hugging Face Blog精选AI 评分7575 LeRobot 与 Yaak 发布 L2D：全球最大开源自动驾驶数据集
Hugging Face 的 LeRobot 团队与 Yaak 联合发布 L2D（Learning to Drive），称其为全球最大的开源自动驾驶数据集，包含 90+ TB 多模态数据、5000+ 小时驾驶记录，来自德国 30 座城市的 60 辆驾校车辆。
推荐理由：L2D 以 90TB 多模态驾驶数据和 LeRobot 训练管线开放，读者可据此判断端到端自动驾驶数据集的规模与可用性。
Hugging Face BlogAI 评分3838 Hugging Face 与 IISc 合作，推动印度多语言模型构建
Hugging Face 与印度科学研究所（IISc）及 ARTPARK 达成合作，旨在提升印度多模态多语言数据集 Vaani 的可访问性与易用性。Vaani 由 IISc/ARTPARK 与 Google 于 2022 年发起，目标采集超 15 万小时语音和 1.5 万小时转写文本，覆盖全印 773 个地区、100 万人，目前已开源 790 小时转写音频，涵盖 54 种语言。
Hugging Face BlogAI 评分4242 Hugging Face 发布视频生成数据集构建工具链
Hugging Face 开源了一套三阶段视频数据集构建工具链，用于微调视频生成模型。该工具链支持 yt-dlp 下载、LAION-5B-WatermarkDetection 水印检测、improved-aesthetic-predictor 美学评分、Falconsai/nsfw_image_detection 内容过滤，并用 Florence-2 生成帧级描述。
Hugging Face Blog精选AI 评分6262 Open R1 发布 OpenR1-Math-220k 数学推理数据集
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k，在 512 张 H100 上用 vLLM 和 SGLang 本地生成 80 万条 R1 推理轨迹，经 Math Verify 与 Llama3.3-70B-Instruct 过滤后保留 22 万道题。
推荐理由：Open R1 项目公开了 220k 数学推理数据集的构建流程与本地生成方案，读者可据此复现或迁移到其他领域。
Hugging Face BlogAI 评分3636 Adyen 与 Hugging Face 联合发布 DABstep：多步推理数据智能体基准
Adyen 与 Hugging Face 联合推出 DABstep（Data Agent Benchmark for Multi-step Reasoning），包含 450+ 个源自 Adyen 真实业务的数据分析任务，用于评测 LLM 与 AI 智能体的多步推理能力。
Hugging Face Blog精选AI 评分6060 Open-R1 更新：复现 DeepSeek-R1 评测、训练管线与合成数据生成进展
Hugging Face 的 Open-R1 项目发布首周进展，已在 MATH-500 上复现 DeepSeek-R1 蒸馏系列模型的报告分数，并搭建了公开评测排行榜。
推荐理由：Open-R1 一周进展汇总了复现 DeepSeek-R1 评测、GRPO 训练与合成数据生成的实测细节，可供关注开源复现路径的读者参考。
Hugging Face Blog精选AI 评分6262 Hugging Face 发起 Open-R1 项目，完整复现 DeepSeek-R1
Hugging Face 发起 Open-R1 项目，计划系统重建 DeepSeek-R1 的数据与训练流程。DeepSeek 虽开放了模型权重，但未公开训练数据集和代码，Open-R1 将分三步复现：蒸馏高质量推理数据集复现 R1-Distill 模型、复现 R1-Zero 的纯 RL 流程、展示从 base model 到 SFT 再到 RL 的多阶段训练。
推荐理由：Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划，读者可了解开源推理模型补全路径。
Hugging Face BlogAI 评分4242 用 KVPress 掌握 LLM 长上下文：NVIDIA 的 KV Cache 压缩工具包
NVIDIA 推出 Python 工具包 KVPress，通过一系列压缩算法降低长上下文 LLM 的 KV Cache 内存占用。以 Llama 3-70B 在 bfloat16 下处理 1M token 为例，KV Cache 需 327.6GB，占约 470GB 总内存的 70%。
Hugging Face Blog精选AI 评分6262 用 Sentence Transformers 训练快 400 倍的静态嵌入模型
Hugging Face 发布方法，用 Sentence Transformers 训练静态嵌入模型，在 CPU 上比主流嵌入模型快 100 到 400 倍，同时保留大部分质量。
推荐理由：原文公开了静态嵌入模型的完整训练配方与两个已发布模型，读者可据此在 CPU 上复现高效嵌入方案。