Hugging Face Transformers 新增 Informer 模型，支持多变量概率时间序列预测
Hugging Face 在 🤗 Transformers 中集成了 AAAI21 最佳论文提出的 Informer 模型，用于多变量概率时间序列预测。Informer 通过 ProbSparse 注意力将自注意力复杂度从 O(T²D) 降至 O(T log T)，并用 Distilling 操作将堆叠层内存占用从 O(NT²) 降至 O(N·T log T)。
全部AI 动态
全部动态
今日 4 条Hugging Face BlogAI 评分2222
Hugging Face Blog精选AI 评分6262 trl 与 peft 集成：在 24GB 消费级 GPU 上 RLHF 微调 20B LLM
Hugging Face 正式发布 trl 与 peft 的集成，让大语言模型的 RLHF 微调更易上手。文章以 gpt-neox-20b 为例，通过 8-bit 加载、低秩适配器和 disable_adapters 复用同一模型，在 24GB NVIDIA 4090 上完成微调，完整训练则在单张 A100 上运行。作者指出该方案的主要代价是训练速度约慢一倍，后续将探索多 GPU 扩展与提速。
推荐理由：trl 与 peft 集成后，读者可了解在 24GB 消费级 GPU 上完成 20B 模型 RLHF 微调的具体步骤与内存取舍。
Hugging Face BlogAI 评分4848 Hugging Face 社区如何用机器学习搭建土耳其地震救援应用 afetharita
2023 年土耳其地震后，志愿者在 Hugging Face 上协作开发了救援地图应用 afetharita，用 easyocr 做 OCR、微调 bert-base-turkish-cased 做地址抽取，并通过 Inference API 部署。团队还用 NLI 模型与微调分类模型识别幸存者的住所、食物、物流等需求，并搭建 Space 对 F1 与召回率进行基准评测。
Hugging Face BlogAI 评分1212 Hugging Face 如何加速 Witty Works 写作助手的开发
Witty Works 借助 Hugging Face Expert Acceleration Program，将写作助手的非包容性词汇检测从基础 spaCy 方案升级为 Sentence Transformers 架构，结合 SetFit 少样本微调，每个词仅需 15-20 条标注句子即可完成分类。
Hugging Face BlogAI 评分3838 Hugging Face 详解大语言模型红队测试：方法、风险与最佳实践
红队测试通过构造自然语言提示词诱导 LLM 生成有害内容，从而暴露模型漏洞，与对抗攻击不同，其提示词对人类可读。GPT3 早期版本曾表现出性别歧视与针对穆斯林的偏见，微软 Tay 和 Bing 的 Sydney 聊天机器人则是缺乏充分红队评估的反面案例。红队可由人工或另一个 LM 执行，针对经 RLHF 或 SFT 对齐的模型需采用角色扮演等创造性攻击方式，未来需建立多方协作的数据集与最佳实践。
Hugging Face Blog精选AI 评分6262 用 BLIP-2 在 Hugging Face Transformers 中实现零样本图像到文本生成
Salesforce Research 的 BLIP-2 视觉语言模型已集成到 Hugging Face Transformers，本指南演示如何用它完成图像描述、带提示的图像描述、视觉问答和对话式提示。
推荐理由：文章给出 BLIP-2 在 Transformers 中的完整调用示例，读者可据此复现图像描述与视觉问答流程。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 PEFT 库，支持 LoRA 等参数高效微调方法
Hugging Face 发布 PEFT 库，提供 LoRA、Prefix Tuning、Prompt Tuning、P-Tuning 等参数高效微调方法，并与 Transformers 和 Accelerate 集成。
推荐理由：官方介绍 PEFT 库支持的微调方法与显存占用，读者可据此判断消费级硬件微调大模型的可行路径。
Hugging Face BlogAI 评分2222 用 AI 为游戏开发生成故事：Hugging Face 教程第 5 篇
Hugging Face 的 AI for Game Development 系列第 5 篇演示如何用 ChatGPT 为农场游戏生成故事，包括故事梗概、游戏内文本和商店物品描述。作者指出语言模型存在复现已有故事、重复和质量漂移等局限，建议仅用于头脑风暴，最终内容仍应手写，并提到 Character.AI 等对话智能体可作替代方案。
Hugging Face BlogAI 评分2222 用 Intel Sapphire Rapids 加速 PyTorch Transformers：推理篇
Hugging Face 联合 Intel 测试了 Sapphire Rapids 服务器上 PyTorch Transformers 的推理性能，在 distilbert-base-uncased、bert-base-uncased 和 roberta-base 三个模型上对比 Ice Lake 平台，使用最新版 Optimum Intel 库加速。
Hugging Face BlogAI 评分3030 Hugging Face 博客：深入解析视觉-语言模型及其训练策略
Hugging Face 发布博客深入解析视觉-语言模型，聚焦其训练方式。文章梳理了对比学习、PrefixLM、交叉注意力多模态融合、MLM/ITM 及免训练等预训练策略，并介绍如何用 🤗 Transformers 实验该领域最新进展。自 2021 年以来，结合视觉与语言模态的联合模型（如 OpenAI 的 CLIP）在图像描述、文本引导图像生成与视觉问答等任务上表现突出。
Hugging Face Blog精选AI 评分7575 用 LoRA 高效微调 Stable Diffusion：diffusers 官方教程
Hugging Face 在 diffusers 中正式加入 LoRA 微调支持，可用于 Dreambooth 和完整微调，训练显存最低约 11 GB，新增权重文件约 3 MB，比原 UNet 小约一千倍。
推荐理由：Hugging Face 官方给出 LoRA 微调 Stable Diffusion 的脚本与推理流程，并说明显存和权重体积的实际变化。
Hugging Face BlogAI 评分3636 2D 资产生成：AI 用于游戏开发 #4
Hugging Face 博客"AI for Game Development"系列第 4 篇讲解如何用 Stable Diffusion 的 Image2Image 生成 2D 游戏资产，并以农场游戏的玉米和镰刀图标为例演示迭代流程。
Hugging Face BlogAI 评分5252 Hugging Face 解读对话智能体为何有用：RLHF、IFT、CoT 等技术梳理
Hugging Face 发布博客梳理让对话智能体变得有用的关键技术，包括指令微调（IFT）、监督微调（SFT）、思维链（CoT）和基于人类反馈的强化学习（RLHF）。
Hugging Face BlogAI 评分2222 3D 资产生成：AI 用于游戏开发 #3
Hugging Face 博客"AI for Game Development"系列第 3 篇指出，text-to-3D 目前还无法实际用于游戏开发，因为生成结果多为 NeRF 视图合成而非可直接使用的 mesh，需大量人工后处理才能成为游戏资产。
Hugging Face BlogAI 评分4242 Hugging Face transformers 集成 Mask2Former 与 OneFormer，统一图像分割
Mask2Former 和 OneFormer 两款统一图像分割模型现已集成到 Hugging Face transformers 开源库中。Mask2Former 用同一套掩码分类范式覆盖实例、语义和全景分割，但每个任务仍需单独训练；OneFormer 加入文本编码器，仅在全景数据上训练一次即可在三个任务上取得 SOTA，精度更高但延迟更大。
Hugging Face BlogAI 评分4040 用 Hugging Face Datasets 和 Transformers 构建图像相似度系统
Hugging Face 发布教程，演示如何用 Transformers 和 Datasets 库构建图像相似度检索系统，通过 ViT 模型（nateraw/vit-base-beans）提取图像嵌入向量，再用余弦相似度找出与查询图像最接近的候选图。
Hugging Face BlogAI 评分2222 AI 游戏开发：用 ChatGPT 辅助游戏设计，5 天做出农场游戏（第二部分）
Hugging Face 博客系列教程第二部分展示如何用 ChatGPT 辅助农场游戏设计，作者向 ChatGPT 询问让农场游戏有趣的核心要素，得到作物多样性、进阶系统、动态环境、社交多人、沉浸式故事等建议，并因 5 天工期只先实现前两项。文章同时解释语言模型与 Transformer 原理，并提醒 ChatGPT 常言之凿凿却出错，宜作头脑风暴工具而非知识库。
Hugging Face BlogAI 评分2222 Hugging Face 博客：图机器学习入门指南
Hugging Face 发布图机器学习入门博客，梳理图的基本概念、表示方法与学习范式，涵盖从预神经网络方法到图神经网络（GNN），并延伸至用于图的 Transformer。文章还介绍了图级别的生成、演化与预测任务，节点级别的属性预测（如 AlphaFold 预测原子 3D 坐标），以及边级别的缺失边预测在推荐系统中的应用。
Hugging Face BlogAI 评分2222 AI 游戏开发实战：5 天用 Stable Diffusion 和 Unity 做出农场游戏（Part 1）
Hugging Face 发布系列教程，演示如何在 5 天内用 AI 工具做出完整农场游戏，Part 1 聚焦美术风格。
Hugging Face BlogAI 评分3636 用 Intel Sapphire Rapids 加速 PyTorch Transformers（上）：分布式训练实战
Hugging Face 展示了如何在 AWS 的 Intel Sapphire Rapids（第四代 Xeon）裸金属实例集群上分布式训练 PyTorch Transformers，借助 Intel oneAPI CCL 和 IPEX 库，无需改动一行代码即可启用 AMX 指令加速矩阵乘法。
Hugging Face BlogAI 评分4242 用 CLIPSeg 实现零样本图像分割
Hugging Face 发布指南，介绍如何通过 transformers 使用零样本图像分割模型 CLIPSeg。该模型在冻结的 CLIP 之上训练 Transformer 解码器，输入 352 x 352 像素图像，可生成粗略分割掩码，用于机器人感知、图像修复等任务，并支持以文本或示例图像作为提示的"视觉提示"。若需更精细结果，可在 Segments.ai 上对 CLIPSeg 输出进行细化。
Hugging Face BlogAI 评分2828 Hugging Face 音频数据集完全指南：用 🤗 Datasets 一行代码加载与处理
Hugging Face 发布音频数据集使用指南，介绍如何用 🤗 Datasets 的 load_dataset 函数一行代码下载并准备音频数据。目前 Hub 上已有 77 个语音识别数据集和 28 个音频分类数据集，并支持 Dataset Preview 在线试听样本。
Hugging Face BlogAI 评分4040 Habana Gaudi2 对比 Nvidia A100 80GB：训练与推理速度提升实测
Hugging Face 用 Optimum Habana 在 Habana Gaudi2 上跑 BERT 预训练、Stable Diffusion 推理和 T5-3B 微调，结果显示 Gaudi2 训练与推理速度约为 Nvidia A100 80GB 的两倍。
Hugging Face Blog精选AI 评分6262 图解基于人类反馈的强化学习（RLHF）
Hugging Face 博客图解 RLHF 的完整流程，将其拆为预训练语言模型、收集人类偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。文中说明奖励模型输出标量奖励，并用 KL 散度惩罚约束策略偏离初始模型，同时介绍了 TRL、TRLX、RL4LMs 等开源实现及 Anthropic 在 Hub 上发布的数据集。
推荐理由：文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步，并梳理了 TRL、TRLX、RL4LMs 等开源工具与主要论文，适合作为理解该流程的入门参考。
Hugging Face BlogAI 评分2222 用深度学习研究蛋白质：面向生物学家与机器学习者的入门指南
Hugging Face 发布《Deep Learning with Proteins》入门指南，面向想入门机器学习的生物学家和想入门生物学的机器学习者，并附上蛋白质语言模型微调（PyTorch、TensorFlow）与 ESMFold 蛋白质折叠（仅 PyTorch）的示例 notebook。
Hugging Face BlogAI 评分3636 用 🤗 Transformers 做概率时间序列预测
Hugging Face 博客介绍如何用 🤗 Transformers 库中的 Time Series Transformer 在自定义数据集上训练概率时间序列预测模型。该模型基于 Encoder-Decoder Transformer 架构，支持自回归采样和缺失值掩码处理，并以澳大利亚 366 个地区的 tourism_monthly 月度旅游数据集为例演示训练流程。
Hugging Face Blog精选AI 评分7070 如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion
借助 Apple 工程师提供的转换脚本和推理代码，Stable Diffusion 现在可以在 Apple Silicon 上通过 Core ML 运行，Hugging Face 已把 v1.4、v1.5、v2 base、v2.1 base 的官方权重转换好并放到 Hub 上。
推荐理由：原文给出在 Apple Silicon 上用 Core ML 运行 Stable Diffusion 的完整流程与性能数据，可据此复现或自行转换权重。
Hugging Face BlogAI 评分3030 VQ-Diffusion：基于离散隐空间的扩散模型
中国科学技术大学与微软提出 VQ-Diffusion，一种在量化隐空间上进行加噪与去噪的条件扩散模型，隐空间由离散向量集合构成。该模型使用冻结的 VQ-VAE 编码图像，并以 CLIP 文本编码器加编码器-解码器 Transformer 预测去噪后的隐变量分布。相比自回归模型，VQ-Diffusion 在推理速度、误差累积和方向偏置三方面均有改善，可通过 🧨 Diffusers 几行代码调用。
Hugging Face BlogAI 评分4040 Hugging Face 发布 Document AI 开源模型选型指南
Hugging Face 发布 Document AI 指南，梳理 OCR、文档图像分类、版面分析、文档解析等六大用例及对应开源模型。文档图像分类中，LayoutLMv3 与 Donut 等多模态模型在 RVL-CDIP 上达 95% 准确率，高于 BERT-base 的 89% 和纯视觉 DiT 的 92%；LayoutLMv3 在 PubLayNet 上取得 0.951 mAP。
Hugging Face BlogAI 评分2828 用同态加密在加密数据上做情感分析：Concrete-ML 实战教程
Hugging Face 发布教程，演示如何借助 Concrete-ML 库在全同态加密（FHE）环境下构建情感分析模型，数据科学家无需密码学背景即可上手。方案用 BERT 提取文本隐藏表示（hidden size 768），再交给 XGBoost 分类，并通过客户端/服务器协议部署到云端，最后在 Hugging Face Spaces 提供完整演示。
Hugging Face Blog精选AI 评分6060 Hugging Face 在 transformers 中引入对比搜索解码方法
Hugging Face 博客介绍对比搜索（Contrastive Search）已集成进 transformers，PyTorch 和 TensorFlow 均可用，需安装 transformers==4.24.0。
推荐理由：对比搜索已进入 transformers，文中给出可复现代码与三种解码方法的生成效果对照。
Hugging Face Blog精选AI 评分6262 用 Diffusers 和 Dreambooth 训练 Stable Diffusion 的实验与调参建议
Hugging Face 用 Diffusers 的 Dreambooth 训练脚本做了大量实验，分析不同超参数对微调 Stable Diffusion 的影响并给出推荐设置。
推荐理由：基于大量实验给出 Dreambooth 微调 Stable Diffusion 的超参数建议，可直接迁移到自己的训练流程。
Hugging Face Blog精选AI 评分6262 用 🤗 Transformers 微调 Whisper 实现多语言 ASR
Hugging Face 发布教程，介绍如何用 🤗 Transformers 在任意多语言 ASR 数据集上微调 Whisper。教程以 Common Voice 11.0 的印地语为例，用约 8 小时训练数据微调 244M 参数的 Whisper small，最佳 WER 为 32.0%，相比预训练模型的 63.5% 提升 31.5 个百分点。
推荐理由：以 8 小时印地语数据微调 Whisper small 的完整流程，WER 从 63.5% 降至 32.0%，可复用的多语言 ASR 微调方法。
Hugging Face BlogAI 评分3434 Hugging Face 在 🤗 Evaluate 中加入语言模型偏见评估指标
Hugging Face 为 🤗 Evaluate 库新增偏见度量与测量功能，用于评估 GPT-2、BLOOM 等因果语言模型的偏见。该流程先用 🤗 Datasets 中的预定义提示词生成文本，再用 🤗 Evaluate 的指标打分，示例覆盖 Toxicity、Polarity 和 Hurtfulness 三类任务。
Hugging Face BlogAI 评分3434 从 PyTorch DDP 到 Accelerate 再到 Trainer：轻松掌握分布式训练
Hugging Face 发布教程，演示如何通过三个递进抽象层级实现多 GPU 分布式训练：原生 PyTorch DDP、🤗 Accelerate 轻量封装以及 🤗 Transformer 的 Trainer API。Accelerate 可在零代码改动下支持单 GPU 和 TPU 运行，Trainer 则抽象掉所有样板代码并支持多种设备和分布式场景。
Hugging Face Blog精选AI 评分6262 Hugging Face Diffusers 0.5.1 起支持 Flax，在 TPU 上用 JAX 运行 Stable Diffusion
Hugging Face Diffusers 自 0.5.1 版本起支持 Flax，可在 Colab、Kaggle 或 Google Cloud 的 TPU 上运行 Stable Diffusion 推理。
推荐理由：Hugging Face 官方给出在 TPU 上用 JAX/Flax 并行跑 Stable Diffusion 的完整步骤与实测耗时，可迁移到多设备推理。
Hugging Face Blog精选AI 评分6262 Hugging Face 复盘 BLOOM 推理优化：延迟降低 5 倍、吞吐提升 50 倍
Hugging Face 团队复盘了为 BLOOM 构建推理服务器的优化过程，在数周内实现延迟降低 5 倍、吞吐提升 50 倍。
推荐理由：Hugging Face 团队复盘 BLOOM 推理优化全过程，从 PP 到 TP、自定义 kernel 的取舍细节可供工程实践参考。
Hugging Face Blog精选AI 评分6262 Accelerate 如何借助 PyTorch 运行超大模型
Hugging Face 介绍 Accelerate 如何借助 PyTorch 的 meta device、自动 device map 和分片 checkpoint，在显存与内存不足的消费级硬件上加载并运行超大语言模型。
推荐理由：原文拆解了 Accelerate 借助 PyTorch meta device 与分片加载运行超大模型的完整流程，可迁移到本地部署实践。
Hugging Face Blog精选AI 评分6060 用 DeepSpeed 和 Accelerate 实现极快的 BLOOM 推理
Hugging Face 发布教程，展示如何用 DeepSpeed-Inference、Accelerate 和 DeepSpeed ZeRO 为 176B 参数的 BLOOM 模型做推理，并给出在 8x80GB A100 上的实测数据。
推荐理由：文章给出 BLOOM 176B 在多种并行与量化方案下的实测吞吐和显存占用，可作为大模型推理部署的选型参考。
Hugging Face BlogAI 评分2626 如何训练你的第一个 Decision Transformer
Hugging Face 发布教程，教你从零训练一个离线 Decision Transformer，让 HalfCheetah 学会奔跑。该模型基于 GPT-2 架构，将强化学习抽象为条件序列建模问题，通过输入 Return-to-go、状态和动作自回归预测未来动作。