GaLore：在消费级硬件上训练大模型
Hugging Face 博客介绍 GaLore 优化器，可将优化器状态内存占用降低超过 82.5%，使 70 亿参数模型（如 Llama 架构）能在 NVIDIA RTX 4090 等消费级 GPU 上训练。
推荐理由：原文给出 GaLore 与 8-bit 优化器结合的内存节省数据及 transformers 完整示例，读者可据此在消费级硬件上复现训练流程。
#数据/训练
#数据/训练
今日 2 条Hugging Face Blog精选AI 评分6262
Hugging Face BlogAI 评分2222 Argilla 与 Hugging Face 发起 Data is Better Together，共建偏好数据集
Argilla 与 Hugging Face 发起 Data is Better Together 实验，几天内吸引 350 名社区贡献者完成超 11,000 次 prompt 评分，并发布含 10,000 条 prompt 用户评分的 10k_prompts_ranked 数据集。
Hugging Face Blog精选AI 评分7878 BigCode 发布 StarCoder2 代码模型与 The Stack v2 数据集
BigCode 发布新一代透明训练的开放代码大模型 StarCoder2，包含 3B、7B、15B 三个尺寸，分别由 ServiceNow、Hugging Face 和 NVIDIA 训练，并同步开放模型、数据集及训练代码。
推荐理由：BigCode 同时放出三个尺寸的代码模型、训练数据集与训练代码，读者可据此判断开源代码模型的能力边界与数据规模。
Hugging Face BlogAI 评分4242 如何在 Hugging Face 上微调 Gemma 模型
Hugging Face 发布教程，介绍如何用 Transformers 和 PEFT 库对 Google DeepMind 的开源模型 Gemma（2B 和 7B 参数）进行参数高效微调（PEFT）。
Hugging Face BlogAI 评分3838 Hugging Face 详解 Matryoshka 嵌入模型：可截断的多维度嵌入
Hugging Face 发布 Matryoshka 嵌入模型入门博客，介绍这类模型能产出多种维度的可用嵌入，将重要信息前置到靠前的维度，截断后仍能保持性能。
Hugging Face BlogAI 评分5757 Hugging Face PEFT 新增多种 LoRA 适配器合并方法
Hugging Face 在 PEFT 中新增面向 LoRA 适配器的合并方法，包括 cat、linear、svd、ties、dare 和 magnitude_prune 等，可通过 add_weighted_adapter() 调用。
Hugging Face Blog精选AI 评分6262 用开源 LLM 合成数据训练定制模型：成本、延迟与碳排放对比
Hugging Face 博客给出用开源 LLM 生成合成数据、再蒸馏出专用小模型的完整流程，并以金融新闻投资者情绪识别为案例。
推荐理由：用开源 LLM 生成合成数据再蒸馏小模型的完整流程，附可复用 notebook 与成本、延迟、碳排放对比。
Hugging Face BlogAI 评分2222 Hugging Face 上的 PatchTST 时间序列 Transformer 实战指南
Hugging Face 博客给出 PatchTST 的上手示例，先在 Electricity 数据集上直接训练并评估其预测能力，再用已训练模型对 ETTh1 数据集做零样本预测，随后进行线性探测与微调。
Hugging Face BlogAI 评分3636 Hugging Face 与 Patronus 推出 Enterprise Scenarios Leaderboard：面向真实企业用例的 LLM 排行榜
Patronus 团队联合 Hugging Face 发布 Enterprise Scenarios Leaderboard，用于评估语言模型在真实企业场景中的表现。
Hugging Face BlogAI 评分2222 IBM Research 与 Hugging Face 在 Transformers 库中发布 PatchTSMixer
IBM Research 与 Hugging Face 团队合作，在 Transformers 库中发布了轻量级时间序列模型 PatchTSMixer，它基于 MLP-Mixer 架构，支持跨 patch、通道和隐藏特征的混合以及多种注意力机制。
Hugging Face BlogAI 评分3838 用 DPO、IPO 与 KTO 做偏好微调：Hugging Face 的 LLM 对齐方法实证评测
Hugging Face 在 7B 模型上实证评测了 DPO、IPO、KTO 三种无需强化学习的 LLM 对齐方法，扫描 β 等关键超参数并用 MT-Bench 评估。
Hugging Face Blog精选AI 评分7272 Unsloth 与 TRL 集成：LLM 微调提速 2 倍、显存降低 40%
Hugging Face 博客介绍社区开发的轻量库 Unsloth，与 transformers、PEFT、TRL 完全兼容，可将 LLM 微调速度提升约 2 倍、显存占用降低约 40%，且相对标准 QLoRA 精度损失为 0%。
推荐理由：原文给出 Unsloth 与 TRL 集成的实测加速与显存数据，读者可据此判断微调成本能降到什么程度。
Hugging Face BlogAI 评分3636 2023：开源大语言模型之年
Hugging Face 回顾 2023 年开源 LLM 进展，指出公众对开源与闭源模型的讨论已触及广泛受众。2022 年的开源模型仍延续规模竞赛，如 176B 参数的 BLOOM、175B 参数的 OPT 和 GLM-130B，而 2023 年转向对数据的重视。
Hugging Face Blog精选AI 评分6262 Hugging Face 详解混合专家模型 MoE
Hugging Face 发布《Mixture of Experts Explained》，以 Mixtral 8x7B 发布为背景，系统讲解 MoE 的构成、训练与推理权衡。
推荐理由：系统梳理 MoE 的构成、训练与推理权衡，并给出并行与部署的实践取舍，适合理解稀疏模型工程细节。
OpenAI NewsAI 评分4242 OpenAI 数据合作计划：共建开源与私有 AI 训练数据集
OpenAI 启动 Data Partnerships 数据合作计划，与各方合作创建用于 AI 训练的开源和私有数据集。
Hugging Face BlogAI 评分2222 RoBERTa、Llama 2 与 Mistral 7B 灾难推文分类对比：基于 LoRA 的微调评测
Hugging Face 博客用 LoRA 微调 RoBERTa-large（355M）、Llama-2-7b 和 Mistral-7B-v0.1 三个模型，在灾难推文二分类任务上做对比评测。实验统一设置 MAX_LEN=512，在单张 A6000（48GB）上训练，并用 Weights & Biases 做超参调优与实验记录。
Hugging Face BlogAI 评分2222 Explosion 推出 Prodigy-HF：与 Hugging Face 直接集成
Explosion 发布 Prodigy-HF 插件，让 Prodigy 标注工具直接集成 Hugging Face 生态。
Hugging Face BlogAI 评分3838 用一行代码在 Spotlight 中交互式探索 Hugging Face 数据集
Renumics Spotlight 现可直接读取 Hugging Face datasets，只需一行 spotlight.show(ds) 即可交互式可视化数据集，无需复制或预处理。Spotlight 能利用预测结果和嵌入向量生成相似度图、混淆矩阵等视图，帮助定位关键数据簇与模型失败模式，并支持通过 Python API 自定义数据检查流程。
Hugging Face Blog精选AI 评分6262 RLHF with PPO 的 N 个实现细节：复现 OpenAI 原始代码库
Hugging Face 博客发布对 OpenAI 2019 年 RLHF 代码库 openai/lm-human-preferences 的复现工作，在情感和描述性任务上匹配了原代码库的学习曲线，并整理出一份实现细节清单。
推荐理由：作者复现 OpenAI 原始 RLHF 代码并逐条列出实现细节，其中 PyTorch 与 TensorFlow 版 Adam 的差异会直接影响训练稳定性。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 tokenizer 引入 chat_template 属性
Hugging Face 的 tokenizers 新增 chat_template 属性，用 Jinja 模板保存模型训练时使用的对话格式，把消息列表转换成正确格式的字符串。
推荐理由：Hugging Face 把聊天格式从硬编码改为随 tokenizer 保存的 Jinja 模板，读者可据此理解格式错配为何会静默拖垮模型表现。
Hugging Face BlogAI 评分4242 用 TRL 的 DDPO 微调 Stable Diffusion 模型
Hugging Face 在 trl 库中集成 DDPOTrainer，可用 DDPO（Denoising Diffusion Policy Optimization）对 Stable Diffusion 做强化学习微调。
Mistral AI精选AI 评分7878 Mistral AI 发布首个开源模型 Mistral 7B
Mistral AI 发布首个 7B 参数模型 Mistral 7B，采用 Apache 2.0 许可，称其在所有标准英文和代码基准上超过现有 13B 参数以内的开源模型。
推荐理由：Mistral AI 官方阐述开源模型路线，并给出首个 7B 模型在基准上超越更大开源模型的对比。
Hugging Face BlogAI 评分4848 如何在生产环境中优化 LLM：Hugging Face 详解低精度、Flash Attention 与架构改进
Hugging Face 发布博客，梳理生产环境部署 LLM 的三类优化技术：8-bit 和 4-bit 低精度推理、Flash Attention 以及 Alibi、Rotary embeddings、MQA、GQA 等架构改进。
Hugging Face Blog精选AI 评分6262 用 PyTorch FSDP 微调 Llama 2 70B
Hugging Face 发布教程，介绍如何用 PyTorch FSDP 配合 Transformers、Accelerate 和 TRL 微调 Llama 2 70B，并给出在 2 节点 16 张 A100 80GB 上的完整配置。
推荐理由：原文给出 70B 模型 FSDP 微调中 CPU 内存、检查点保存与显存三个问题的具体解法，可迁移到同类大模型训练。
Hugging Face Blog精选AI 评分7878 TII 的 Falcon 180B 上线 Hugging Face
TII 发布 Falcon 180B 并上线 Hugging Face Hub，提供 base 与 chat 两个版本。该模型有 1800 亿参数，在 3.5 万亿 token 的 RefinedWeb 数据上训练，使用最多 4096 张 GPU、约 700 万 GPU 小时。
推荐理由：原文给出 Falcon 180B 的参数量、训练数据与评测对比，读者可据此判断开源大模型的规模与商用限制。
OpenAI NewsAI 评分2727 OpenAI 与 Scale 合作，为企业微调模型提供支持
OpenAI 与 Scale 达成合作，企业客户可借助 Scale 的 AI 专业能力微调 OpenAI 最先进的模型。该合作面向有模型定制需求的企业客户。
OpenAI News精选AI 评分6262 OpenAI 开放 GPT-3.5 Turbo 微调
OpenAI 宣布开发者现在可以自带数据对 GPT-3.5 Turbo 进行微调，以适配自身用例。该更新与 API 调整一同发布。
推荐理由：OpenAI 开放 GPT-3.5 Turbo 微调，开发者可用自有数据定制模型，是当时最直接的定制入口变化。
Hugging Face Blog精选AI 评分6666 用 DPO 微调 Llama 2：TRL 库训练教程
Hugging Face 在 TRL 库中上线 Direct Preference Optimization（DPO）方法，并给出用 QLoRA 在 Llama v2 7B 上基于 stack-exchange 偏好数据微调的完整流程。
推荐理由：TRL 官方给出 DPO 在 Llama 2 上的完整训练流程与代码，读者可据此在自己的偏好数据上复现。
Hugging Face BlogAI 评分2626 Huggy Lingo：用机器学习改进 Hugging Face Hub 数据集的语言元数据
Hugging Face 用机器学习为 Hub 上缺少语言元数据的数据集自动检测语言，并借助 librarian-bots 提交 PR 补充元数据。目前 Hub 约 5 万个公开数据集中仅约 13% 标注了语言，约 87% 未标注。
Hugging Face BlogAI 评分4242 Hugging Face 开源文本生成与 LLM 生态概览
Hugging Face 梳理其 Hub 上的开源文本生成与 LLM 生态，涵盖因果语言模型与 text-to-text 模型、许可协议、LLM 服务工具及 PEFT 微调。
Hugging Face BlogAI 评分3838 如何在 Intel CPU 上微调 Stable Diffusion 模型
Hugging Face 展示了在 Intel 第四代 Xeon（Sapphire Rapids）CPU 集群上微调 Stable Diffusion 的完整流程，利用 AMX 加速器与 Intel Extension for PyTorch，仅需 5 张示例图片即可通过 textual inversion 完成训练。
OpenAI NewsAI 评分1515 OpenAI 用 GPT-4 大规模精准分析定性数据
Viable 利用 GPT-4 以革命性规模分析定性数据，并实现前所未有的准确度。该方案面向大规模定性数据分析场景，由 OpenAI 的 GPT-4 提供模型能力支持。
Hugging Face BlogAI 评分2222 Hugging Face Hub 如何服务美术馆、图书馆、档案馆与博物馆（GLAM）
Hugging Face Hub 面向美术馆、图书馆、档案馆与博物馆（GLAM）从业者，介绍如何查找模型、上传数据集并托管演示。Hub 目前托管超 190,000 个模型、33,000 个数据集和超 100,000 个应用与演示，覆盖文本、图像、音频等任务。文中以挪威语文献的命名实体识别为例演示按任务和语言筛选模型，并给出将 CSV 数据集上传至 Hub 的步骤。
Hugging Face BlogAI 评分4242 Hugging Face 研究：基础模型能否像人类一样标注数据？
Hugging Face 用 327 条提示词对比了 Koala 13b、Vicuna 13b、OpenAssistant 12b 和 Dolly 12b 四个开源指令模型，让 Scale AI 人类标注员按 1-8 分 Likert 量表打分并生成 Elo 排名，Vicuna-13B 以 1140 分居首，Dolly-12B 以 802 分垫底。
Hugging Face BlogAI 评分4747 Hugging Face Hub 集成 DuckDB：用 SQL 分析 5 万+数据集
Hugging Face Hub 新增 DuckDB 集成，用户可用 SQL 查询 Hub 上任意公开数据集。数据集查看器会自动将所有公开数据集转换为 Parquet 文件，通过 /parquet 端点获取 URL 后，配合 DuckDB 的 httpfs 扩展即可直接查询远程文件，大型数据集被分片为 500MB 块。
Hugging Face BlogAI 评分2222 Hugging Face Hub 正式托管 fastText 全部 157 种语言词向量与语言识别模型
Hugging Face 现已托管 Meta AI 开源的 fastText 官方镜像，涵盖全部 157 种语言的词向量和最新语言识别模型，用户可通过 huggingface_hub 的 hf_hub_download 几行命令直接下载使用。该集成还支持文本分类与特征提取 widget，并提供词向量最近邻查询和语言检测的示例代码。
OpenAI News精选AI 评分6767 OpenAI 用过程监督提升数学推理能力
OpenAI 训练了一个模型，通过奖励每一步正确的推理（过程监督）而非仅奖励最终正确答案（结果监督），在数学问题求解上取得新的 SOTA。相比结果监督，过程监督除了提升性能，还带来对齐上的好处：直接训练模型产出被人类认可的思维链。
推荐理由：OpenAI 用过程监督替代结果监督训练数学推理模型，读者可了解奖励每一步推理这一训练思路及其对齐收益。
Hugging Face Blog精选AI 评分7878 Hugging Face 用 bitsandbytes 与 QLoRA 让 transformers 支持 4-bit 量化
Hugging Face 与 bitsandbytes 合作，在 transformers 中支持以 4-bit 精度加载和运行模型，覆盖文本、视觉、多模态等大多数 HF 模型，并可在 4bit 模型上训练适配器。
推荐理由：Hugging Face 把 4-bit 量化与 QLoRA 接入 transformers，读者可据此判断消费级显卡微调大模型的门槛变化。
Hugging Face BlogAI 评分4242 用 InstructPix2Pix 对 Stable Diffusion 做指令微调
Hugging Face 博客探索用指令微调让 Stable Diffusion 按指令处理输入图像，方法基于 InstructPix2Pix 的训练策略并借鉴 FLAN V2 的指令模板思路。
Hugging Face BlogAI 评分3636 BigCode 背后的大规模近重复数据删除技术
Hugging Face 发布 BigCode 项目大规模近重复数据删除的技术详解，采用 MinHash + LSH 方法对代码数据集进行文档级去重，参数为 (256, 0.7, 5)。