我们为何转向 Hugging Face Inference Endpoints，或许你也该考虑
Hugging Face 推出托管服务 Inference Endpoints，可将 Hub 上的模型部署到 AWS、Azure 等云端的多种实例（含 GPU）。
#Hugging Face
#Hugging Face
今日 3 条Hugging Face BlogAI 评分2222
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 PEFT 库，支持 LoRA 等参数高效微调方法
Hugging Face 发布 PEFT 库，提供 LoRA、Prefix Tuning、Prompt Tuning、P-Tuning 等参数高效微调方法，并与 Transformers 和 Accelerate 集成。
推荐理由：官方介绍 PEFT 库支持的微调方法与显存占用，读者可据此判断消费级硬件微调大模型的可行路径。
Hugging Face Blog精选AI 评分6060 SpeechT5 上线 Hugging Face Transformers，支持语音合成、识别与语音转换
Hugging Face 宣布 SpeechT5 已集成进 Transformers 库，官方 checkpoint 发布在 Hugging Face Hub，并提供语音合成、语音转换和自动语音识别三个 Spaces 演示。
推荐理由：SpeechT5 以同一套编码器解码器架构覆盖 TTS、语音转换与 ASR，读者可据此了解多任务语音模型的复用方式。
Hugging Face BlogAI 评分3636 Hugging Face 推出 AI vs. AI：深度强化学习多智能体竞赛系统
Hugging Face 发布开源工具 AI vs. AI，用于在多智能体环境中对强化学习模型进行排名。该工具托管于 Spaces，通过匹配算法让模型持续对战，并基于 ELO 评分系统（初始 1200 分）生成排行榜，用户将训练好的模型推送到 Hub 即可参与评估。
Hugging Face BlogAI 评分2222 用 AI 为游戏开发生成故事：Hugging Face 教程第 5 篇
Hugging Face 的 AI for Game Development 系列第 5 篇演示如何用 ChatGPT 为农场游戏生成故事，包括故事梗概、游戏内文本和商店物品描述。作者指出语言模型存在复现已有故事、重复和质量漂移等局限，建议仅用于头脑风暴，最终内容仍应手写，并提到 Character.AI 等对话智能体可作替代方案。
Hugging Face BlogAI 评分2222 用 Intel Sapphire Rapids 加速 PyTorch Transformers：推理篇
Hugging Face 联合 Intel 测试了 Sapphire Rapids 服务器上 PyTorch Transformers 的推理性能，在 distilbert-base-uncased、bert-base-uncased 和 roberta-base 三个模型上对比 Ice Lake 平台，使用最新版 Optimum Intel 库加速。
Hugging Face BlogAI 评分3030 Hugging Face 博客：深入解析视觉-语言模型及其训练策略
Hugging Face 发布博客深入解析视觉-语言模型，聚焦其训练方式。文章梳理了对比学习、PrefixLM、交叉注意力多模态融合、MLM/ITM 及免训练等预训练策略，并介绍如何用 🤗 Transformers 实验该领域最新进展。自 2021 年以来，结合视觉与语言模态的联合模型（如 OpenAI 的 CLIP）在图像描述、文本引导图像生成与视觉问答等任务上表现突出。
Hugging Face BlogAI 评分2222 Hugging Face 计算机视觉生态现状：8 大任务、3000+ 模型与 100+ 数据集
Hugging Face 公布其计算机视觉生态现状：Hub 上已支持 8 项核心视觉任务、3000 多个模型和 100 多个数据集，涵盖图像分类、分割、目标检测、深度估计等，并兼容 ViT、Swin、DETR 及 ConvNeXt、ResNet 等架构。Pipelines 已支持 7 项视觉任务，Trainer 可直接微调图像分类、分割、视频分类、目标检测和深度估计。
Hugging Face Blog精选AI 评分7575 用 LoRA 高效微调 Stable Diffusion：diffusers 官方教程
Hugging Face 在 diffusers 中正式加入 LoRA 微调支持，可用于 Dreambooth 和完整微调，训练显存最低约 11 GB，新增权重文件约 3 MB，比原 UNet 小约一千倍。
推荐理由：Hugging Face 官方给出 LoRA 微调 Stable Diffusion 的脚本与推理流程，并说明显存和权重体积的实际变化。
Hugging Face BlogAI 评分3636 2D 资产生成：AI 用于游戏开发 #4
Hugging Face 博客"AI for Game Development"系列第 4 篇讲解如何用 Stable Diffusion 的 Image2Image 生成 2D 游戏资产，并以农场游戏的玉米和镰刀图标为例演示迭代流程。
Hugging Face BlogAI 评分4747 Hugging Face Optimum 集成 ONNX Runtime：模型训练提速最高 130%
Hugging Face 与微软 ONNX Runtime 团队合作，通过 Optimum 库集成 ONNX Runtime 训练后端，让热门 Hugging Face 模型训练速度提升 35% 以上。
Hugging Face BlogAI 评分4242 Hugging Face transformers 集成 Mask2Former 与 OneFormer，统一图像分割
Mask2Former 和 OneFormer 两款统一图像分割模型现已集成到 Hugging Face transformers 开源库中。Mask2Former 用同一套掩码分类范式覆盖实例、语义和全景分割，但每个任务仍需单独训练；OneFormer 加入文本编码器，仅在全景数据上训练一次即可在三个任务上取得 SOTA，精度更高但延迟更大。
Hugging Face BlogAI 评分3838 Hugging Face Hub 正式接入 PaddlePaddle 模型库
Hugging Face 与百度 PaddlePaddle 达成开源合作，PaddlePaddle 模型库将逐步接入 Hugging Face Hub，首批已上线超 75 个模型，涵盖 UIE、ERNIE 3.0、Ernie-Layout 等。
Hugging Face BlogAI 评分4040 用 Hugging Face Datasets 和 Transformers 构建图像相似度系统
Hugging Face 发布教程，演示如何用 Transformers 和 Datasets 库构建图像相似度检索系统，通过 ViT 模型（nateraw/vit-base-beans）提取图像嵌入向量，再用余弦相似度找出与查询图像最接近的候选图。
Hugging Face BlogAI 评分2222 AI 游戏开发：用 ChatGPT 辅助游戏设计，5 天做出农场游戏（第二部分）
Hugging Face 博客系列教程第二部分展示如何用 ChatGPT 辅助农场游戏设计，作者向 ChatGPT 询问让农场游戏有趣的核心要素，得到作物多样性、进阶系统、动态环境、社交多人、沉浸式故事等建议，并因 5 天工期只先实现前两项。文章同时解释语言模型与 Transformer 原理，并提醒 ChatGPT 常言之凿凿却出错，宜作头脑风暴工具而非知识库。
Hugging Face BlogAI 评分2222 Hugging Face 博客：图机器学习入门指南
Hugging Face 发布图机器学习入门博客，梳理图的基本概念、表示方法与学习范式，涵盖从预神经网络方法到图神经网络（GNN），并延伸至用于图的 Transformer。文章还介绍了图级别的生成、演化与预测任务，节点级别的属性预测（如 AlphaFold 预测原子 3D 坐标），以及边级别的缺失边预测在推荐系统中的应用。
Hugging Face BlogAI 评分2222 AI 游戏开发实战：5 天用 Stable Diffusion 和 Unity 做出农场游戏（Part 1）
Hugging Face 发布系列教程，演示如何在 5 天内用 AI 工具做出完整农场游戏，Part 1 聚焦美术风格。
Hugging Face BlogAI 评分3636 用 Intel Sapphire Rapids 加速 PyTorch Transformers（上）：分布式训练实战
Hugging Face 展示了如何在 AWS 的 Intel Sapphire Rapids（第四代 Xeon）裸金属实例集群上分布式训练 PyTorch Transformers，借助 Intel oneAPI CCL 和 IPEX 库，无需改动一行代码即可启用 AMX 指令加速矩阵乘法。
Hugging Face BlogAI 评分4242 用 CLIPSeg 实现零样本图像分割
Hugging Face 发布指南，介绍如何通过 transformers 使用零样本图像分割模型 CLIPSeg。该模型在冻结的 CLIP 之上训练 Transformer 解码器，输入 352 x 352 像素图像，可生成粗略分割掩码，用于机器人感知、图像修复等任务，并支持以文本或示例图像作为提示的"视觉提示"。若需更精细结果，可在 Segments.ai 上对 CLIPSeg 输出进行细化。
Hugging Face BlogAI 评分3434 Hugging Face 发布 Model Card 创建工具与 Guide Book
Hugging Face 推出 Model Card Creator Tool 和 Model Card Guide Book，前者提供图形界面，无需编程或 Markdown 即可创建模型卡。同时发布更新版模型卡模板（集成于 huggingface_hub 库）、带注释模板、用户研究及文档现状综述。
Hugging Face BlogAI 评分2828 Hugging Face 音频数据集完全指南：用 🤗 Datasets 一行代码加载与处理
Hugging Face 发布音频数据集使用指南，介绍如何用 🤗 Datasets 的 load_dataset 函数一行代码下载并准备音频数据。目前 Hub 上已有 77 个语音识别数据集和 28 个音频分类数据集，并支持 Dataset Preview 在线试听样本。
Hugging Face BlogAI 评分3232 Hugging Face 谈机器学习中的偏见：伦理与社会通讯第 2 期
Hugging Face 伦理与社会团队发布通讯第 2 期，讨论机器学习中的偏见问题，指出偏见普遍且复杂，单一技术手段难以有效解决。文章梳理了偏见在 ML 开发各环节的体现，并介绍了 Hugging Face 团队开发的用于识别和应对偏见的数据集与模型工具。
Hugging Face BlogAI 评分4040 Habana Gaudi2 对比 Nvidia A100 80GB：训练与推理速度提升实测
Hugging Face 用 Optimum Habana 在 Habana Gaudi2 上跑 BERT 预训练、Stable Diffusion 推理和 T5-3B 微调，结果显示 Gaudi2 训练与推理速度约为 Nvidia A100 80GB 的两倍。
Hugging Face BlogAI 评分3838 从 GPT2 到 Stable Diffusion：Hugging Face 模型进入 Elixir 生态
Elixir 社区推出 Bumblebee 库，用纯 Elixir 实现了 Hugging Face Transformers，让 GPT2 到 Stable Diffusion 等模型可在 Elixir 中运行。
Hugging Face Blog精选AI 评分6262 图解基于人类反馈的强化学习（RLHF）
Hugging Face 博客图解 RLHF 的完整流程，将其拆为预训练语言模型、收集人类偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。文中说明奖励模型输出标量奖励，并用 KL 散度惩罚约束策略偏离初始模型，同时介绍了 TRL、TRLX、RL4LMs 等开源实现及 Anthropic 在 Hub 上发布的数据集。
推荐理由：文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步，并梳理了 TRL、TRLX、RL4LMs 等开源工具与主要论文，适合作为理解该流程的入门参考。
Hugging Face BlogAI 评分2222 用深度学习研究蛋白质：面向生物学家与机器学习者的入门指南
Hugging Face 发布《Deep Learning with Proteins》入门指南，面向想入门机器学习的生物学家和想入门生物学的机器学习者，并附上蛋白质语言模型微调（PyTorch、TensorFlow）与 ESMFold 蛋白质折叠（仅 PyTorch）的示例 notebook。
Hugging Face BlogAI 评分3636 用 🤗 Transformers 做概率时间序列预测
Hugging Face 博客介绍如何用 🤗 Transformers 库中的 Time Series Transformer 在自定义数据集上训练概率时间序列预测模型。该模型基于 Encoder-Decoder Transformer 架构，支持自回归采样和缺失值掩码处理，并以澳大利亚 366 个地区的 tourism_monthly 月度旅游数据集为例演示训练流程。
Hugging Face Blog精选AI 评分7070 如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion
借助 Apple 工程师提供的转换脚本和推理代码，Stable Diffusion 现在可以在 Apple Silicon 上通过 Core ML 运行，Hugging Face 已把 v1.4、v1.5、v2 base、v2.1 base 的官方权重转换好并放到 Hub 上。
推荐理由：原文给出在 Apple Silicon 上用 Core ML 运行 Stable Diffusion 的完整流程与性能数据，可据此复现或自行转换权重。
Hugging Face BlogAI 评分3030 VQ-Diffusion：基于离散隐空间的扩散模型
中国科学技术大学与微软提出 VQ-Diffusion，一种在量化隐空间上进行加噪与去噪的条件扩散模型，隐空间由离散向量集合构成。该模型使用冻结的 VQ-VAE 编码图像，并以 CLIP 文本编码器加编码器-解码器 Transformer 预测去噪后的隐变量分布。相比自回归模型，VQ-Diffusion 在推理速度、误差累积和方向偏置三方面均有改善，可通过 🧨 Diffusers 几行代码调用。
Hugging Face BlogAI 评分88 Hugging Face 启动 2023 年实习生招聘，开放 8 个 AI 方向岗位
Hugging Face 宣布启动 2023 年实习生招聘，开放 8 个岗位，涵盖 Accelerate、文本转语音、具身智能、大语言模型分布式训练框架、LLM 数据集、生成式 ML 社会影响评估和 AI 艺术工具等方向。实习生将与 Hugging Face 导师及相应开源库维护者合作，申请者需通过官方招聘门户提交申请并创建 Hugging Face 账号。
Hugging Face BlogAI 评分2222 Hugging Face 与 Jonathan Whitaker 推出扩散模型课程并举办直播活动
Hugging Face 与 Jonathan Whitaker 合作的扩散模型课程将于 11 月 28 日发布，免费讲解扩散模型的理论与应用。配合课程上线，11 月 30 日将举办社区直播活动，Stable Diffusion 创作者及 Stability AI、Meta 等机构的研究者将带来演讲，聚焦扩散模型的高层介绍与构建应用的工具。
Hugging Face BlogAI 评分1212 Hugging Face 机器学习总监洞察第四期：电商与工程领域的 ML 实践
Hugging Face 发布《机器学习总监洞察》第四期，邀请 Javier Mansilla、Shaun Gittens、Samuel Franklin 和 Evan Castle 四位 ML 总监分享机器学习对各自行业的影响。
Hugging Face BlogAI 评分2222 Hugging Face 推理方案概览：Inference Widget、Inference API、Inference Endpoints 与 Spaces
Hugging Face 梳理了其推理方案：模型页上的免费 Inference Widget 可一键上传样本预测，底层由免费 Inference API 驱动，凭模型 URL 和 hub token 即可用 HTTP 请求调用，但因限流不建议用于生产。
Hugging Face BlogAI 评分4040 Hugging Face 发布 Document AI 开源模型选型指南
Hugging Face 发布 Document AI 指南，梳理 OCR、文档图像分类、版面分析、文档解析等六大用例及对应开源模型。文档图像分类中，LayoutLMv3 与 Donut 等多模态模型在 RVL-CDIP 上达 95% 准确率，高于 BERT-base 的 89% 和纯视觉 DiT 的 92%；LayoutLMv3 在 PubLayNet 上取得 0.951 mAP。
Hugging Face BlogAI 评分4040 Hugging Face Spaces 与 arXiv 集成，论文页面新增 Demo 标签页
Hugging Face 与 arXiv 合作，将 Spaces 通过 arXivLabs 集成到论文页面，新增 Demo 标签页，可直接链接社区或作者创建的开源演示。
Hugging Face BlogAI 评分2828 用同态加密在加密数据上做情感分析：Concrete-ML 实战教程
Hugging Face 发布教程，演示如何借助 Concrete-ML 库在全同态加密（FHE）环境下构建情感分析模型，数据科学家无需密码学背景即可上手。方案用 BERT 提取文本隐藏表示（hidden size 768），再交给 XGBoost 分类，并通过客户端/服务器协议部署到云端，最后在 Hugging Face Spaces 提供完整演示。
Hugging Face Blog精选AI 评分6060 Hugging Face 在 transformers 中引入对比搜索解码方法
Hugging Face 博客介绍对比搜索（Contrastive Search）已集成进 transformers，PyTorch 和 TensorFlow 均可用，需安装 transformers==4.24.0。
推荐理由：对比搜索已进入 transformers，文中给出可复现代码与三种解码方法的生成效果对照。
Hugging Face BlogAI 评分3030 Hugging Face 更新定价：Inference API 付费层下线，推出 Inference Endpoints
Hugging Face 宣布下线 Inference API 的付费层，该服务仍对所有人免费开放，同时推出企业级推理服务 Inference Endpoints，并为 Spaces 提供硬件升级。这些服务无需订阅，只需在账单设置中绑定信用卡即可使用，所有付费服务按月计费并提供合并发票。
Hugging Face Blog精选AI 评分6262 用 Diffusers 和 Dreambooth 训练 Stable Diffusion 的实验与调参建议
Hugging Face 用 Diffusers 的 Dreambooth 训练脚本做了大量实验，分析不同超参数对微调 Stable Diffusion 的影响并给出推荐设置。
推荐理由：基于大量实验给出 Dreambooth 微调 Stable Diffusion 的超参数建议，可直接迁移到自己的训练流程。
Hugging Face Blog精选AI 评分6262 用 🤗 Transformers 微调 Whisper 实现多语言 ASR
Hugging Face 发布教程，介绍如何用 🤗 Transformers 在任意多语言 ASR 数据集上微调 Whisper。教程以 Common Voice 11.0 的印地语为例，用约 8 小时训练数据微调 244M 参数的 Whisper small，最佳 WER 为 32.0%，相比预训练模型的 63.5% 提升 31.5 个百分点。
推荐理由：以 8 小时印地语数据微调 Whisper small 的完整流程，WER 从 63.5% 降至 32.0%，可复用的多语言 ASR 微调方法。