用 🤗 Transformers 做概率时间序列预测
Hugging Face 博客介绍如何用 🤗 Transformers 库中的 Time Series Transformer 在自定义数据集上训练概率时间序列预测模型。该模型基于 Encoder-Decoder Transformer 架构，支持自回归采样和缺失值掩码处理，并以澳大利亚 366 个地区的 tourism_monthly 月度旅游数据集为例演示训练流程。
#教程/实践
#教程/实践
今日 4 条Hugging Face BlogAI 评分3636 Hugging Face Blog精选AI 评分7070 如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion
借助 Apple 工程师提供的转换脚本和推理代码，Stable Diffusion 现在可以在 Apple Silicon 上通过 Core ML 运行，Hugging Face 已把 v1.4、v1.5、v2 base、v2.1 base 的官方权重转换好并放到 Hub 上。
推荐理由：原文给出在 Apple Silicon 上用 Core ML 运行 Stable Diffusion 的完整流程与性能数据，可据此复现或自行转换权重。
Hugging Face BlogAI 评分3030 VQ-Diffusion：基于离散隐空间的扩散模型
中国科学技术大学与微软提出 VQ-Diffusion，一种在量化隐空间上进行加噪与去噪的条件扩散模型，隐空间由离散向量集合构成。该模型使用冻结的 VQ-VAE 编码图像，并以 CLIP 文本编码器加编码器-解码器 Transformer 预测去噪后的隐变量分布。相比自回归模型，VQ-Diffusion 在推理速度、误差累积和方向偏置三方面均有改善，可通过 🧨 Diffusers 几行代码调用。
Hugging Face BlogAI 评分2222 Hugging Face 与 Jonathan Whitaker 推出扩散模型课程并举办直播活动
Hugging Face 与 Jonathan Whitaker 合作的扩散模型课程将于 11 月 28 日发布，免费讲解扩散模型的理论与应用。配合课程上线，11 月 30 日将举办社区直播活动，Stable Diffusion 创作者及 Stability AI、Meta 等机构的研究者将带来演讲，聚焦扩散模型的高层介绍与构建应用的工具。
Hugging Face BlogAI 评分4040 Hugging Face 发布 Document AI 开源模型选型指南
Hugging Face 发布 Document AI 指南，梳理 OCR、文档图像分类、版面分析、文档解析等六大用例及对应开源模型。文档图像分类中，LayoutLMv3 与 Donut 等多模态模型在 RVL-CDIP 上达 95% 准确率，高于 BERT-base 的 89% 和纯视觉 DiT 的 92%；LayoutLMv3 在 PubLayNet 上取得 0.951 mAP。
Hugging Face BlogAI 评分2828 用同态加密在加密数据上做情感分析：Concrete-ML 实战教程
Hugging Face 发布教程，演示如何借助 Concrete-ML 库在全同态加密（FHE）环境下构建情感分析模型，数据科学家无需密码学背景即可上手。方案用 BERT 提取文本隐藏表示（hidden size 768），再交给 XGBoost 分类，并通过客户端/服务器协议部署到云端，最后在 Hugging Face Spaces 提供完整演示。
Hugging Face Blog精选AI 评分6060 Hugging Face 在 transformers 中引入对比搜索解码方法
Hugging Face 博客介绍对比搜索（Contrastive Search）已集成进 transformers，PyTorch 和 TensorFlow 均可用，需安装 transformers==4.24.0。
推荐理由：对比搜索已进入 transformers，文中给出可复现代码与三种解码方法的生成效果对照。
Hugging Face Blog精选AI 评分6262 用 Diffusers 和 Dreambooth 训练 Stable Diffusion 的实验与调参建议
Hugging Face 用 Diffusers 的 Dreambooth 训练脚本做了大量实验，分析不同超参数对微调 Stable Diffusion 的影响并给出推荐设置。
推荐理由：基于大量实验给出 Dreambooth 微调 Stable Diffusion 的超参数建议，可直接迁移到自己的训练流程。
Hugging Face Blog精选AI 评分6262 用 🤗 Transformers 微调 Whisper 实现多语言 ASR
Hugging Face 发布教程，介绍如何用 🤗 Transformers 在任意多语言 ASR 数据集上微调 Whisper。教程以 Common Voice 11.0 的印地语为例，用约 8 小时训练数据微调 244M 参数的 Whisper small，最佳 WER 为 32.0%，相比预训练模型的 63.5% 提升 31.5 个百分点。
推荐理由：以 8 小时印地语数据微调 Whisper small 的完整流程，WER 从 63.5% 降至 32.0%，可复用的多语言 ASR 微调方法。
Hugging Face BlogAI 评分3434 Hugging Face 在 🤗 Evaluate 中加入语言模型偏见评估指标
Hugging Face 为 🤗 Evaluate 库新增偏见度量与测量功能，用于评估 GPT-2、BLOOM 等因果语言模型的偏见。该流程先用 🤗 Datasets 中的预定义提示词生成文本，再用 🤗 Evaluate 的指标打分，示例覆盖 Toxicity、Polarity 和 Hurtfulness 三类任务。
Hugging Face BlogAI 评分3434 从 PyTorch DDP 到 Accelerate 再到 Trainer：轻松掌握分布式训练
Hugging Face 发布教程，演示如何通过三个递进抽象层级实现多 GPU 分布式训练：原生 PyTorch DDP、🤗 Accelerate 轻量封装以及 🤗 Transformer 的 Trainer API。Accelerate 可在零代码改动下支持单 GPU 和 TPU 运行，Trainer 则抽象掉所有样板代码并支持多种设备和分布式场景。
Hugging Face BlogAI 评分3838 Hugging Face Inference Endpoints 上手指南
Hugging Face 推出 Inference Endpoints，可将 Hub 上的模型一键部署到云端托管基础设施。文中以 Swin 图像分类模型为例，演示了在 AWS eu-west-1 单 GPU 实例上部署，并介绍 Public、Protected、Private 三种访问级别，其中 Private 通过 AWS PrivateLink 的 VPC Endpoint 访问。
Hugging Face Blog精选AI 评分6262 Hugging Face Diffusers 0.5.1 起支持 Flax，在 TPU 上用 JAX 运行 Stable Diffusion
Hugging Face Diffusers 自 0.5.1 版本起支持 Flax，可在 Colab、Kaggle 或 Google Cloud 的 TPU 上运行 Stable Diffusion 推理。
推荐理由：Hugging Face 官方给出在 TPU 上用 JAX/Flax 并行跑 Stable Diffusion 的完整步骤与实测耗时，可迁移到多设备推理。
Hugging Face Blog精选AI 评分6262 Hugging Face 复盘 BLOOM 推理优化：延迟降低 5 倍、吞吐提升 50 倍
Hugging Face 团队复盘了为 BLOOM 构建推理服务器的优化过程，在数周内实现延迟降低 5 倍、吞吐提升 50 倍。
推荐理由：Hugging Face 团队复盘 BLOOM 推理优化全过程，从 PP 到 TP、自定义 kernel 的取舍细节可供工程实践参考。
Hugging Face Blog精选AI 评分6262 Accelerate 如何借助 PyTorch 运行超大模型
Hugging Face 介绍 Accelerate 如何借助 PyTorch 的 meta device、自动 device map 和分片 checkpoint，在显存与内存不足的消费级硬件上加载并运行超大语言模型。
推荐理由：原文拆解了 Accelerate 借助 PyTorch meta device 与分片加载运行超大模型的完整流程，可迁移到本地部署实践。
Hugging Face Blog精选AI 评分6060 用 DeepSpeed 和 Accelerate 实现极快的 BLOOM 推理
Hugging Face 发布教程，展示如何用 DeepSpeed-Inference、Accelerate 和 DeepSpeed ZeRO 为 176B 参数的 BLOOM 模型做推理，并给出在 8x80GB A100 上的实测数据。
推荐理由：文章给出 BLOOM 176B 在多种并行与量化方案下的实测吞吐和显存占用，可作为大模型推理部署的选型参考。
Hugging Face BlogAI 评分2626 如何训练你的第一个 Decision Transformer
Hugging Face 发布教程，教你从零训练一个离线 Decision Transformer，让 HalfCheetah 学会奔跑。该模型基于 GPT-2 架构，将强化学习抽象为条件序列建模问题，通过输入 Return-to-go、状态和动作自回归预测未来动作。
Hugging Face BlogAI 评分3030 如何用 Megatron-LM 训练语言模型
Hugging Face 发布教程，讲解如何在 NVIDIA GPU 上用 Megatron-LM 训练 GPT2 语言模型并接入 Transformers。Megatron-LM 通过高效 DataLoader、Fused CUDA Kernels 和 Apex 的 Fused AdamW 优化器提升训练速度，但上手难度高于 Accelerate 和 Trainer。
Hugging Face BlogAI 评分2222 如何在 Hugging Face Spaces 上用 3Dmol.js 可视化蛋白质
Hugging Face 博客介绍如何用 3Dmol.js 和 Gradio 的 HTML block 在 Hugging Face Spaces 中可视化蛋白质结构，应用可接受 4 位 PDB 代码或上传 PDB 文件，并从 RCSB 蛋白数据库获取结构。
Hugging Face Blog精选AI 评分7474 如何用 Diffusers 运行 Stable Diffusion
Hugging Face 发布教程，介绍如何用 Diffusers 库运行 Stable Diffusion 文生图模型，并解释其 Latent Diffusion 的工作原理。
推荐理由：原文给出 Stable Diffusion 在 Diffusers 中的完整调用方式与自定义推理管线写法，可迁移到其他扩散模型。
Hugging Face BlogAI 评分3030 用 Hugging Face Transformers 和 Habana Gaudi 预训练 BERT
Hugging Face 发布教程，演示如何在 AWS DL1 实例上借助 Habana Gaudi 从零预训练 BERT-base，并使用 Transformers、Optimum Habana 和 Datasets 库完成 masked-language modeling 任务。
Hugging Face BlogAI 评分2222 在 Vertex AI 上部署 🤗 ViT 模型
Hugging Face 展示了如何将 🤗 Transformers 中的 ViT B/16 模型部署到 Google Cloud 的 Vertex AI 平台，用比 Kubernetes 方案更少的代码实现同等扩展能力。
Hugging Face BlogAI 评分2222 Hugging Face Optimum Graphcore 深度解析：在 IPU 上微调 Vision Transformer
Hugging Face 与 Graphcore 联合发布 Optimum Graphcore 库，支持在 IPU 上微调 ViT 等 Transformer 模型。
Hugging Face Blog精选AI 评分6767 Hugging Face 详解 LLM.int8() 8-bit 矩阵乘法与 transformers 集成
Hugging Face 将 LLM.int8() 8-bit 量化集成进 transformers 与 accelerate，可在不损失性能的前提下把大模型显存占用降到约四分之一。
推荐理由：Hugging Face 官方详解 LLM.int8() 量化原理与 transformers 集成细节，并给出实测数据与代码示例。
Hugging Face BlogAI 评分2222 Hugging Face 的 TensorFlow 哲学：为何 transformers 全面拥抱 Keras
Hugging Face 阐述了其 transformers 库在 TensorFlow 上的设计哲学：所有 TensorFlow 模型都是 Keras Model 对象，所有层都是 Keras Layer 对象，用户可直接调用 fit()、compile()、predict() 等方法。
Hugging Face BlogAI 评分2222 用 TF Serving 在 Kubernetes 上部署 🤗 ViT
Hugging Face 发布教程，讲解如何用 Docker 和 Kubernetes 将上一篇文章中的 Vision Transformer（ViT）本地部署扩展为可服务多用户的部署。
Hugging Face BlogAI 评分2222 如何训练和微调 Sentence Transformers 模型
Hugging Face 发布教程，介绍如何从零构建或微调 Sentence Transformers 模型，涵盖数据准备、损失函数选择、训练与上传 Hugging Face Hub 的完整流程。
Hugging Face BlogAI 评分2222 Hugging Face 深度强化学习课程：Proximal Policy Optimization (PPO)
Hugging Face 深度强化学习课程第 8 单元讲解 Proximal Policy Optimization (PPO)，通过裁剪当前与旧策略的概率比至 [1−ϵ, 1+ϵ] 区间来限制每轮策略更新幅度，避免更新过大导致训练不稳定。课程随后用 PyTorch 从零实现 PPO，并在 CartPole-v1 和 LunarLander-v2 上验证。
Hugging Face Blog精选AI 评分6262 用 TensorFlow 和 XLA 加速文本生成
Hugging Face 官方博客介绍，在 transformers 中用 TensorFlow 做文本生成现在可以通过 jit_compile=True 启用 XLA 编译，速度最高提升 100 倍，部分场景比 PyTorch 快 9 倍。
推荐理由：Hugging Face 官方给出 TensorFlow 文本生成接入 XLA 的一行改法与 padding 技巧，可迁移到实际推理加速。
Hugging Face BlogAI 评分2222 用 TF Serving 在 Hugging Face 部署 TensorFlow 视觉模型
Hugging Face 与外部贡献者为 Transformers 加入了 Vision Transformer、Masked Autoencoders、RegNet、ConvNeXt 等 TensorFlow 视觉模型。
Hugging Face BlogAI 评分1717 Hugging Face 深度强化学习课程 Unit 7：Advantage Actor Critic (A2C)
Hugging Face 深度强化学习课程发布 Unit 7，讲解 Advantage Actor Critic（A2C）这一结合基于策略与基于价值方法的混合架构，通过 Actor 控制智能体行为、Critic 评估动作优劣来降低 Reinforce 中蒙特卡洛采样带来的高方差。课程使用 Stable-Baselines3 在 PyBullet 机器人环境中训练双足步行者和蜘蛛两个智能体行走。
Hugging Face BlogAI 评分2222 如何用对抗数据动态训练你的模型
Hugging Face 博客介绍动态对抗数据收集（DADC）：让用户在与模型交互中刻意"骗过"模型，再把对抗样本用于训练，多轮重复以提升鲁棒性。教程以 MNIST 手写数字识别为例，模型训练 20 个 epoch 后在测试集上达到 89% 准确率，并用 🤗 Spaces 搭建交互与标记（flagging）演示。
Hugging Face BlogAI 评分4848 BLOOM 训练背后的技术：176B 参数模型如何用 Megatron-DeepSpeed 完成训练
Hugging Face 详解 176B 参数多语言模型 BLOOM 的训练技术，该项目由 Thomas Wolf 发起，使用 384 张 80GB A100 GPU、Megatron-DeepSpeed 框架和 350B token 的 59 语言数据集，耗时约 3.5 个月完成。
Hugging Face BlogAI 评分2222 如何用 Sentence Transformers 构建歌单生成器
作者用 Sentence Transformers 的语义搜索功能构建了一个歌单生成器，将歌词按段落切分并嵌入，再根据文本提示检索最相关的歌曲，最终用 Gradio Blocks API 搭建多步交互演示并托管在 Hugging Face Spaces 上。
Hugging Face BlogAI 评分3232 Hugging Face 发布 Twitter 情感分析入门指南：用 Inference API 与 Zapier 分析推文
Hugging Face 发布 Twitter 情感分析入门指南，面向开发者和非开发者分别给出实现路径。开发者可用 Tweepy 抓取推文、通过 Inference API 几行代码完成情感分类，并用 Matplotlib 和 WordCloud 可视化结果；无代码用户则可借助 Zapier 采集推文、调用 Inference API 分析并将结果发送至 Google Sheets。
Hugging Face BlogAI 评分1717 Hugging Face 深度强化学习课程：用 PyTorch 实现 Policy Gradient
Hugging Face 深度强化学习课程第 5 单元讲解基于策略的强化学习方法，用 PyTorch 从零实现首个 Policy-Gradient 算法 Reinforce，并在 CartPole-v1、PixelCopter 和 Pong 上测试其鲁棒性。
Hugging Face BlogAI 评分2222 如何用 Sentence Transformers 开启你的第一个机器学习项目
Hugging Face 发布入门指南，以 Sentence Transformers（ST）为例讲解如何从零启动第一个机器学习项目。ST 可将句子、段落和图像转为嵌入向量，并用 util.cos_sim 计算余弦相似度，支持语义搜索、聚类和模型蒸馏等应用。该库在 GitHub 已获近 8,000 stars，超过 3,000 个项目依赖它。
Hugging Face BlogAI 评分5050 如何用 Accelerate 结合 DeepSpeed 加速大模型训练
Hugging Face 展示了用 Accelerate 库调用 DeepSpeed ZeRO 加速大模型训练的方法，无需改动代码即可启用 ZeRO Stage-2。
Hugging Face BlogAI 评分3030 Hugging Face 入门教程：如何使用 Embeddings
Hugging Face 发布 Embeddings 入门教程，演示用开源库 Sentence Transformers 的 all-MiniLM-L6-v2 模型和 Inference API 构建 FAQ 语义搜索。
Hugging Face BlogAI 评分3030 如何用 Hugging Face Optimum 将 Transformers 模型转换为 ONNX
Hugging Face 博客介绍了将 Transformers 模型转为 ONNX 的三种方式：底层 torch.onnx、中层 transformers.onnx 和 Optimum 高层 API。