Arc Institute 虚拟细胞挑战赛入门指南：用 STATE 模型预测基因沉默效应
Arc Institute 发起 Virtual Cell Challenge，要求参赛者训练模型预测 CRISPR 沉默基因对（部分）未见细胞类型的影响，即"上下文泛化"。
#数据/训练
#数据/训练
今日 2 条Hugging Face BlogAI 评分3333
Hugging Face BlogAI 评分5252 Ettin Suite 发布：同配方训练的 SoTA 配对编码器与解码器
Hugging Face 博客发布 Ettin Suite，这是首个用完全相同的数据（2T tokens）、架构形状和训练配方训练的 SoTA 配对编码器与解码器模型系列，参数规模覆盖 17M 到 1B。
Hugging Face BlogAI 评分5454 Numina 与 Kimi 团队发布 Kimina-Prover-72B 定理证明模型
Numina 与 Kimi 团队发布定理证明模型 Kimina-Prover-72B，基于 Qwen2.5-72B 并用 Kimi k1.5 的 RL 流程训练，同时开源 8B 和 1.7B 蒸馏版本。
Hugging Face BlogAI 评分3838 Hugging Face 详解高效多模态数据管道：从朴素填充到背包算法
Hugging Face 以 nanoVLM 项目为例，展示如何用五阶段构建高效多模态数据管道，解决 GPU 空转与填充浪费问题。朴素填充阶段约 60% 的 batch 被空 token 占用，随后通过约束填充、背包算法打包和 ConstantLengthDataset 逐步优化。
Hugging Face BlogAI 评分2222 Hugging Face 公布 NeurIPS 2025 E2LM 竞赛：评估大语言模型早期训练
Hugging Face 上线 NeurIPS 2025 E2LM 竞赛，面向 LLM 早期训练阶段（约 200B tokens 以内）构建科学知识领域的评测基准，参赛者需基于 lm-evaluation-harness 通过 HuggingFace Space 提交方案。
OpenAI NewsAI 评分3535 OpenAI 研究错误回答训练如何导致模型失准泛化
OpenAI 研究发现，用错误回答训练语言模型会引发更广泛的失准行为，并识别出驱动这一行为的内部特征，该特征可通过极少量微调逆转。
Hugging Face Blog精选AI 评分6262 TRL 引入 vLLM 同卡部署，GRPO 训练吞吐最高提升 1.73 倍
TRL 从 v0.18.0 起支持 vLLM 与 GRPO 训练同卡部署（colocate），训练和推理共享同一批 GPU 并轮流执行，不再需要单独的推理服务器。
推荐理由：TRL 把 vLLM 与 GRPO 训练放在同一批 GPU 上，读者可据此判断在线学习训练的显存与吞吐取舍。
Hugging Face BlogAI 评分1212 Liger GRPO 与 TRL 集成在 DeepSpeed ZeRO3 下出现形状不匹配
用户在使用 Qwen2.5-0.5B-Instruct 以 bf16 精度结合 DeepSpeed ZeRO3 测试 Liger GRPO loss 时，于 TRL 的 GRPO Trainer 中触发形状不匹配报错。
Hugging Face BlogAI 评分3636 Falcon-Arabic：阿拉伯语语言模型的突破
阿联酋 TII 发布 7B 参数的 Falcon-Arabic，基于 Falcon 3 架构，支持阿拉伯语、英语等多种语言，上下文长度 32,000 tokens。该模型在 OALL v2 基准上超越同尺寸及最多 4 倍大的阿拉伯语 LLM，训练采用扩展 32,000 个阿拉伯语 token 的词表与 100% 原生阿拉伯语数据。
Hugging Face Blog精选AI 评分6262 Falcon-Edge 发布：可微调的 1.58bit 三元语言模型系列
Falcon-Edge 系列发布，基于 BitNet 架构，提供 1B 和 3B 两种参数规模，每种都有 base 和指令微调版本，权重以三元格式（{-1, 0, 1}）存储。
推荐理由：Falcon-Edge 用单次预训练同时产出 bfloat16 与三元量化版本，读者可据此了解 1.58bit 模型在端侧部署与微调上的新路径。
Hugging Face BlogAI 评分3838 LeRobot 社区数据集：机器人领域的“ImageNet”——何时与如何实现？
Hugging Face 发文称 LeRobot 社区贡献数据集正快速增长，目标是打造机器人领域的“ImageNet”，将泛化视为数据问题而非单纯的模型能力问题。
Hugging Face BlogAI 评分2626 Intel 推出 AutoRound：面向 LLM 与 VLM 的先进量化工具
Intel 发布权重仅训练后量化方法 AutoRound，通过符号梯度下降联合优化权重取整与截断范围，支持 INT2-INT8 低比特量化，INT2 下相对精度最高达主流基线 2.1 倍。
Hugging Face Blog精选AI 评分6262 ServiceNow 开源 PipelineRL：用飞行中权重更新提升 LLM 强化学习训练效率
ServiceNow 开源实验性 RL 实现 PipelineRL，核心创新是在 RL 训练中进行飞行中权重更新，让推理服务器在不停止推理的情况下接收新权重，从而同时保持高推理吞吐和接近 on-policy 的数据采集。
推荐理由：ServiceNow 开源 PipelineRL，用飞行中权重更新化解推理吞吐与 on-policy 数据采集的取舍，并给出 7B/32B 训练对比结果。
Hugging Face BlogAI 评分3939 HELMET：全面评估长上下文语言模型的基准
Hugging Face 博客介绍 HELMET（How to Evaluate Long-Context Models Effectively and Thoroughly），一个从多样性、可控性和可靠性三方面改进现有方案的长上下文语言模型评测基准，已评估 59 个近期 LCLM。
Hugging Face BlogAI 评分2222 Hugging Face 与 MBZUAI 推出 Arabic-Leaderboards，新增阿拉伯语指令遵循评测
Hugging Face 与 MBZUAI 合作推出 Arabic-Leaderboards 统一评测平台，目前上线 AraGen-03-25 和 Arabic Instruction Following 两个榜单。
Hugging Face BlogAI 评分2828 Hugging Face 的 NLP Course 升级并更名为 LLM Course
Hugging Face 将已运营 3 年的 NLP Course 更名为 LLM Course，并新增微调 LLM、构建 DeepSeek R1 等推理模型的章节。
Hugging Face Blog精选AI 评分7171 NVIDIA 在 GTC 2025 发布 Cosmos Transfer、Physical AI Dataset 与 Isaac GR00T N1
NVIDIA 在 GTC 2025 上发布三项面向物理 AI 开发的开源成果：世界基础模型 Cosmos Transfer、Physical AI Dataset 以及人形机器人基础模型 NVIDIA Isaac GR00T N1。
推荐理由：NVIDIA 在 GTC 2025 一次性开源世界模型、数据集与人形机器人基础模型，读者可据此了解物理 AI 开发可用的工具链。
Hugging Face Blog精选AI 评分7575 LeRobot 与 Yaak 发布 L2D：全球最大开源自动驾驶数据集
Hugging Face 的 LeRobot 团队与 Yaak 联合发布 L2D（Learning to Drive），称其为全球最大的开源自动驾驶数据集，包含 90+ TB 多模态数据、5000+ 小时驾驶记录，来自德国 30 座城市的 60 辆驾校车辆。
推荐理由：L2D 以 90TB 多模态驾驶数据和 LeRobot 训练管线开放，读者可据此判断端到端自动驾驶数据集的规模与可用性。
Hugging Face BlogAI 评分3838 Hugging Face 与 IISc 合作，推动印度多语言模型构建
Hugging Face 与印度科学研究所（IISc）及 ARTPARK 达成合作，旨在提升印度多模态多语言数据集 Vaani 的可访问性与易用性。Vaani 由 IISc/ARTPARK 与 Google 于 2022 年发起，目标采集超 15 万小时语音和 1.5 万小时转写文本，覆盖全印 773 个地区、100 万人，目前已开源 790 小时转写音频，涵盖 54 种语言。
Hugging Face BlogAI 评分4242 Hugging Face 发布视频生成数据集构建工具链
Hugging Face 开源了一套三阶段视频数据集构建工具链，用于微调视频生成模型。该工具链支持 yt-dlp 下载、LAION-5B-WatermarkDetection 水印检测、improved-aesthetic-predictor 美学评分、Falconsai/nsfw_image_detection 内容过滤，并用 Florence-2 生成帧级描述。
Hugging Face Blog精选AI 评分6262 Open R1 发布 OpenR1-Math-220k 数学推理数据集
Open R1 项目发布首个大规模数学推理数据集 OpenR1-Math-220k，在 512 张 H100 上用 vLLM 和 SGLang 本地生成 80 万条 R1 推理轨迹，经 Math Verify 与 Llama3.3-70B-Instruct 过滤后保留 22 万道题。
推荐理由：Open R1 项目公开了 220k 数学推理数据集的构建流程与本地生成方案，读者可据此复现或迁移到其他领域。
Hugging Face BlogAI 评分3636 Adyen 与 Hugging Face 联合发布 DABstep：多步推理数据智能体基准
Adyen 与 Hugging Face 联合推出 DABstep（Data Agent Benchmark for Multi-step Reasoning），包含 450+ 个源自 Adyen 真实业务的数据分析任务，用于评测 LLM 与 AI 智能体的多步推理能力。
Hugging Face Blog精选AI 评分6060 Open-R1 更新：复现 DeepSeek-R1 评测、训练管线与合成数据生成进展
Hugging Face 的 Open-R1 项目发布首周进展，已在 MATH-500 上复现 DeepSeek-R1 蒸馏系列模型的报告分数，并搭建了公开评测排行榜。
推荐理由：Open-R1 一周进展汇总了复现 DeepSeek-R1 评测、GRPO 训练与合成数据生成的实测细节，可供关注开源复现路径的读者参考。
Hugging Face Blog精选AI 评分6262 Hugging Face 发起 Open-R1 项目，完整复现 DeepSeek-R1
Hugging Face 发起 Open-R1 项目，计划系统重建 DeepSeek-R1 的数据与训练流程。DeepSeek 虽开放了模型权重，但未公开训练数据集和代码，Open-R1 将分三步复现：蒸馏高质量推理数据集复现 R1-Distill 模型、复现 R1-Zero 的纯 RL 流程、展示从 base model 到 SFT 再到 RL 的多阶段训练。
推荐理由：Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划，读者可了解开源推理模型补全路径。
Hugging Face BlogAI 评分4242 用 KVPress 掌握 LLM 长上下文：NVIDIA 的 KV Cache 压缩工具包
NVIDIA 推出 Python 工具包 KVPress，通过一系列压缩算法降低长上下文 LLM 的 KV Cache 内存占用。以 Llama 3-70B 在 bfloat16 下处理 1M token 为例，KV Cache 需 327.6GB，占约 470GB 总内存的 70%。
Hugging Face Blog精选AI 评分6262 用 Sentence Transformers 训练快 400 倍的静态嵌入模型
Hugging Face 发布方法，用 Sentence Transformers 训练静态嵌入模型，在 CPU 上比主流嵌入模型快 100 到 400 倍，同时保留大部分质量。
推荐理由：原文公开了静态嵌入模型的完整训练配方与两个已发布模型，读者可据此在 CPU 上复现高效嵌入方案。
Hugging Face BlogAI 评分3434 Hugging Face 开放 LLM 排行榜揭示 CO₂ 排放与模型性能关系
Hugging Face 在 Open LLM Leaderboard 上为 2742 个模型加入推理 CO₂ 排放估算，发现模型越大排放越高但排行榜得分增长递减，MoE 模型的得分排放比普遍偏低。社区微调模型比其官方基座更低碳，Qwen-2.5-14B 与 Phi-3-Medium 的得分排放比最佳。
Hugging Face Blog精选AI 评分6262 如何可视化并理解 PyTorch 训练中的 GPU 显存占用
Hugging Face 发布教程，介绍用 torch.cuda.memory._record_memory_history 记录并可视化 PyTorch 训练中的 GPU 显存使用。
推荐理由：文章用 PyTorch 内存快照拆解训练各阶段显存占用，并给出可复用的显存估算公式。
Hugging Face Blog精选AI 评分6262 TII 发布 Falcon3 开源模型家族，含 1B 至 10B 五款基础模型
阿布扎比技术创新研究院（TII）发布 Falcon3 开源模型家族，包含 Falcon3-1B-Base、3B-Base、Mamba-7B-Base、7B-Base 和 10B-Base 五款基础模型，参数规模均在 100 亿以下。
推荐理由：Falcon3 系列覆盖 1B 到 10B 五款开源模型，给出了预训练、深度扩展与蒸馏的具体做法和基准对比。
OpenAI News精选AI 评分7878 OpenAI 发布 o1 模型及多项开发者工具更新
OpenAI 发布 o1 模型，并同步带来 Realtime API 改进、新的微调方法等面向开发者的更新。官方称此次更新面向开发者，涵盖模型与工具两方面。
推荐理由：OpenAI 官方一次性公布 o1 模型与 Realtime API、微调方法等开发者工具更新，可据此了解其开发者侧能力布局。
Hugging Face BlogAI 评分2222 Hugging Face 在 GCP 第 5 代 Xeon 上基准测试语言模型性能
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4（第 5 代 Xeon，Emerald Rapids，支持 AMX）与 N2（第 3 代 Xeon，Ice Lake，仅 AVX-512）两款 96 vCPU 实例上，对文本嵌入和文本生成两类智能体 AI 负载做了对比。
Hugging Face Blog精选AI 评分6060 Hugging Face 推出合成数据生成器，用自然语言构建数据集
Hugging Face 发布 Synthetic Data Generator，一个无代码应用，用户用自然语言描述需求即可借助 LLM 生成自定义数据集。工具目前支持文本分类和聊天数据集，分别约每分钟生成 50 和 20 个样本，底层由 distilabel 和免费的 Hugging Face text-generation API 驱动。
推荐理由：原文给出从提示词到数据集再到模型的完整无代码流程，读者可据此判断合成数据工具的实际可用边界。
Hugging Face BlogAI 评分3636 Hugging Face 与 Entalpic 联合发布开源材料发现项目 LeMaterial，推出 670 万条数据集的 LeMat-Bulk
Hugging Face 与 Entalpic 联合发布开源项目 LeMaterial，并推出首个数据集 LeMat-Bulk，整合 Materials Project、Alexandria 和 OQMD 三大材料数据库，形成 670 万条条目、7 种材料属性的统一数据格式，采用 CC-BY-4.0 许可。
Hugging Face BlogAI 评分2222 Hugging Face 推出 AraGen：基于 3C3H 的阿拉伯语 LLM 生成式基准与排行榜
Hugging Face 发布面向阿拉伯语 LLM 的生成式任务基准与排行榜 AraGen，采用新的 3C3H 评估指标，从正确性、完整性、简洁性、有用性、诚实性和无害性六个维度基于 LLM-as-judge 打分。
Hugging Face BlogAI 评分2222 CFM 如何用 LLM 辅助标注微调小模型，将金融 NER 成本降低 80 倍
Capital Fund Management（CFM）借助 Hugging Face Inference Endpoints 部署 Llama 3.1-70b-Instruct 生成标注、再用 Argilla 人工复核，微调出的小模型在金融 NER 任务上准确率最高提升 6.4%，推理成本较大模型降低最多 80 倍。
Hugging Face BlogAI 评分2222 Hugging Face Hub 如何分享与托管开放 ML 数据集
Hugging Face Hub 支持托管 TB 级数据集，并提供 Dataset Viewer、全文搜索、排序、SQL Console 及 Pandas、Polars、DuckDB 等第三方库的一行代码加载能力。
Hugging Face BlogAI 评分3838 Argilla 2.4 发布：无需代码即可在 Hugging Face Hub 上构建微调与评测数据集
Argilla 2.4 推出无代码数据集构建功能，用户可直接在 UI 中从 Hugging Face Hub 导入数据集、定义问题并收集人工反馈。该功能支持公开数据集导入，默认启用 Hugging Face OAuth，方便社区或团队协作标注，用于微调与模型评测。Argilla 是 Hugging Face 旗下免费开源的数据中心工具，仍保留 Python SDK 供进一步定制。
Hugging Face Blog精选AI 评分6262 Cohere For AI 发布 Aya Expanse 多语言模型，公开完整后训练流程
Cohere For AI 发布 Aya Expanse 系列多语言模型，包含 8B 和 32B 两个参数版本，均以开放权重形式发布。在成对比较中，Aya Expanse 32B 优于 Gemma 2 27B、Mistral 8x22B 和参数量超过其两倍的 Llama 3.1 70B；Aya Expanse 8B 在同参数级别中胜率为 60.4% 至 70.6%。
推荐理由：Cohere For AI 公开了 Aya Expanse 的完整后训练流程，读者可了解多语言模型在数据、偏好训练与模型合并上的具体做法。
Hugging Face BlogAI 评分2222 CinePile 2.0：用对抗式数据集精炼打造更强的长视频问答数据集
Hugging Face 发布 CinePile 2.0 长视频问答数据集，采用其提出的对抗式数据集精炼（adversarial dataset refinement）方法改进数据质量。
Hugging Face BlogAI 评分4242 Hugging Face 修复 Transformers 梯度累积损失计算问题
Hugging Face 修复了 Transformers Trainer 中梯度累积与全批量训练损失不一致的问题，该问题由 Unsloth 团队报告。修复方案让默认损失函数在梯度累积时按所有非 padding token 总数计算损失，并新增 loss_function 属性与 LOSS_MAPPING，允许用户传入自定义损失函数。用户可从 main 分支安装以获取修复。