图解扩散模型：用 PyTorch 逐步实现 DDPM
Hugging Face 博客发布《The Annotated Diffusion Model》，基于 Ho 等人 2020 年的 DDPM 论文，用 PyTorch 逐步实现去噪扩散概率模型。
推荐理由：以 PyTorch 逐步实现 DDPM 并附完整代码，适合想从原理到代码理解扩散模型的读者。
#开源生态
#开源生态
今日 4 条Hugging Face Blog精选AI 评分6262
Hugging Face BlogAI 评分5252 Hugging Face Hub 推出 Pull Requests 和 Discussions 功能
Hugging Face 在 Hub 上线 Pull Requests 和 Discussions 两项协作功能，覆盖 models、datasets 和 Spaces 三类仓库，任何社区成员都可创建和参与。
Hugging Face BlogAI 评分2222 Hugging Face 多模态团队发布伦理章程，将伦理原则置于研究生命周期核心
Hugging Face 多模态学习团队发布了一份伦理章程，将伦理原则正式纳入其机器学习研究生命周期的起点。章程列出内容政策，明确禁止生成虚假信息、个人身份信息及在医疗、法律、金融等高风险领域的轻率使用，并提出透明、开放可复现、公平、自我批判和尊重署名五项价值观。该文件反映 2022 年 5 月的思考状态，属进行中的工作，更新将通过 GitHub 追踪。
Hugging Face BlogAI 评分2222 Hugging Face 推出 Fellowship 计划，支持开源机器学习贡献者
Hugging Face 宣布启动 Fellowship 计划，为开源机器学习生态的关键贡献者提供算力资源、周边物料和官方认可等支持。首批 Fellow 包括创建西语 NLP 社区的 María Grandury、向 Hub 贡献超 300 个模型的 Manuel Romero 等。
Hugging Face Blog精选AI 评分6060 Gradio 3.0 发布：前端重写并推出 Blocks 低层 API
Gradio 发布 3.0 版本，对库进行了彻底重设计。新版前端改用 Svelte 等现代技术，页面加载更快、体积更小，并新增 Gallery 组件和 TabbedInterface 类，同时推出低层语言 Gradio Blocks，让开发者用 Python 构建自定义布局和多步数据流的 Web 应用。官方还举办 Gradio Blocks Party 竞赛，持续到 5 月底。
推荐理由：Gradio 3.0 重写前端并推出 Blocks 低层 API，读者可了解自定义 ML 演示界面的新写法。
Hugging Face BlogAI 评分88 Hugging Face 首届学生大使计划开放申请
Hugging Face 开放首届 Student Ambassador Program 申请，截止日期为 2022 年 6 月 13 日，项目于 6 月 30 日启动、12 月 31 日结束。
Hugging Face BlogAI 评分4242 Hugging Face Optimum 1.2 支持 Transformers pipelines 加速推理
Hugging Face 开源库 Optimum 发布 1.2 版本，新增对 Transformers pipelines 的推理支持，首批接入 ONNX Runtime，用户可将 AutoModelForXxx 替换为对应的 ORTModelForXxx 直接调用。
Hugging Face Blog精选AI 评分6262 Hugging Face 完成 1 亿美元 C 轮融资，由 Lux Capital 领投
Hugging Face 宣布完成 1 亿美元 C 轮融资，由 Lux Capital 领投，Sequoia、Coatue 等参与，现有投资方 Addition、a_capital、SV Angel 等继续支持。
推荐理由：Hugging Face 官方披露 C 轮融资规模与投资方，并给出平台模型、数据集和客户体量，可据此了解当时开源 ML 生态的商业化进展。
Hugging Face BlogAI 评分2222 Hugging Face 深度强化学习课程第一单元：深度强化学习入门
Hugging Face 推出免费深度强化学习课程，第一单元讲解深度强化学习基础，涵盖强化学习框架、马尔可夫性质、动作空间、奖励折扣与探索/利用权衡等概念。课程使用 Stable Baselines3、RL Baselines3 Zoo 和 RLlib 等库，并让学员训练首个登月着陆器智能体并上传至 Hugging Face Hub。
Hugging Face BlogAI 评分3636 使用 PyTorch FullyShardedDataParallel 加速大模型训练
Hugging Face 展示了如何用 Accelerate 库无需改代码即可调用 PyTorch 的 FullyShardedDataParallel（FSDP）训练大模型。
Hugging Face BlogAI 评分2222 用 Kili 和 HuggingFace AutoTrain 构建意见分类流水线
HuggingFace AutoTrain 与数据标注平台 Kili 可组合成一套主动学习流水线，用于文本分类。
Hugging Face BlogAI 评分2222 Hugging Face 推出教育计划：目标 2023 年底教会 500 万人机器学习
Hugging Face 发布教育计划，目标在 2023 年底前教会 500 万人机器学习。该计划面向所有人、初学者和教师，提供 NLP、深度强化学习、Gradio 演示构建等免费课程，以及已翻译成 8 种语言的教师工具包。此前 3 月的 ML demo.cratization 巡讲已为 16 个国家超 1000 名学生授课。
Hugging Face BlogAI 评分3838 Hugging Face Hub 推出 CO2 排放追踪与低排放模型筛选功能
Hugging Face Hub 新增 emissions_threshold 参数，可按训练碳排放量筛选模型，例如上限 100 克可筛出 191 个模型，下限 500 克则筛出 10 个。transformers 集成 codecarbon，训练时自动记录排放数据并生成 emissions.csv，方便写入模型卡。
Hugging Face BlogAI 评分1717 Hugging Face 工程师 Lewis Tunstall 谈 transformers 与大规模模型评估
Hugging Face 机器学习工程师 Lewis Tunstall 在播客中介绍了他在 transformers 库上的工作：通过一行代码将 PyTorch 模型导出为 ONNX 格式，帮助 ML 工程师获得更低延迟和更高吞吐。他还与 Leandro von Werra、Thom Wolf 合著了《NLP with Transformers》一书，并谈到大规模模型评估等话题。
Hugging Face BlogAI 评分2222 Habana Labs 与 Hugging Face 合作加速 Transformer 模型训练
Habana Labs 与 Hugging Face 宣布合作，将 Habana 的 SynapseAI 软件套件与 Hugging Face Optimum 开源库集成，开发者只需几行代码即可在 Habana Gaudi 处理器上加速 Transformer 训练。
Hugging Face BlogAI 评分2222 Hugging Face 谈 Transformers 为何不遵循 DRY 原则：单一模型文件策略
Hugging Face 的 Transformers 库有意不遵循 DRY 原则，转而采用"单一模型文件策略"，即模型前向传播所需的全部代码只放在一个模型文件中，注意力机制代码因此在不同模型文件里被复制了 50 多次。官方给出的理由包括：该库由开源社区共建、建模代码本身就是产品、机器学习领域演进极快，以及模型发布后很少被改动。
Hugging Face BlogAI 评分2222 Hugging Face 机器学习专家访谈：Margaret Mitchell 谈伦理 AI 与数据偏见
Hugging Face 发布机器学习专家访谈，嘉宾 Margaret Mitchell 曾任 Google 伦理 AI 团队创始人与联合负责人，现于 Hugging Face 制定伦理 AI 研究协议。
Hugging Face BlogAI 评分2020 Hugging Face 宣布启动 AI Research Residency Program
Hugging Face 推出为期 9 个月的 AI Research Residency Program，入选者将与 Science Team 研究员合作选定研究课题、开发新的机器学习技术并争取发表成果。项目为全职、可远程，申请截止 2022 年 4 月 3 日，欢迎各类背景申请者。
Hugging Face BlogAI 评分2222 用 🤗 datasets 构建图像搜索应用
Hugging Face 的 🤗 datasets 库新增图像特征类型，可结合 faiss 索引实现图像相似度搜索。文章以英国图书馆数字化书籍插图数据集为例，演示用 ImageFolder 加载器直接读取图像数据集，并配合 sentence_transformers 与 faiss 搭建图像搜索应用。
Hugging Face BlogAI 评分4646 在 🤗 Transformers 中用约束束搜索引导文本生成
Hugging Face 为 🤗 Transformers 的 model.generate() 新增约束束搜索（constrained beam search）功能，通过 force_words_ids 参数强制生成结果包含指定词。
Hugging Face BlogAI 评分3838 如何用 Python 入门情感分析
Hugging Face Hub 上已有超过 215 个情感分析模型，配合 transformers 的 pipeline 类，5 行 Python 代码即可完成情感分析。Hub 共收录超 27000 个模型，覆盖约 28 种语言，并提供 Colab notebook 供用户用自己的数据测试。
Hugging Face Blog精选AI 评分6262 如何在 🤗 Transformers 中用 Wav2Vec2 处理长音频的语音识别
Hugging Face 博客介绍如何利用 Wav2Vec2 的 CTC 结构，在 🤗 Transformers 中对任意长音频做语音识别。
推荐理由：原文给出带 stride 的分块推理方法，读者可据此在长音频和实时场景中复用 Wav2Vec2。
Hugging Face BlogAI 评分3636 在 🤗 Transformers 中用 n-gram 语言模型增强 Wav2Vec2 语音识别
🤗 Transformers 现已集成 Kensho Technologies 的 pyctcdecode 库，可将 n-gram 语言模型与微调后的 Wav2Vec2 检查点结合用于语音识别解码。
Hugging Face BlogAI 评分3838 用 Hugging Face Transformers 和 Amazon SageMaker 部署 GPT-J 6B 推理
Hugging Face 发布教程，介绍如何用 Amazon SageMaker 和 Hugging Face Inference Toolkit 部署 EleutherAI 的 GPT-J 6B 模型做实时推理。
Hugging Face Blog精选AI 评分6262 Gradio 加入 Hugging Face
Hugging Face 收购机器学习初创公司 Gradio，Gradio 联合创始人发文确认这一消息。Gradio 于 2019 年由斯坦福博士生与三位室友发布，用于让机器学习工程师快速搭建并分享模型 demo，目前已有超过 30 万个 demo 基于该库构建。作者表示加入 Hugging Face 后将继续发展 Gradio，让任何有浏览器的人都能使用机器学习模型。
推荐理由：Gradio 创始人以当事方视角讲述被 Hugging Face 收购的经过，并回顾该开源库从 2019 年起步到 30 万 demo 的历程。
Hugging Face BlogAI 评分2222 Hugging Face Optimum 入门：在 Graphcore IPU 上加速 Transformer
Hugging Face 与 Graphcore 合作推出开源库 Optimum，用于降低 Transformer 模型在多种硬件上的预测延迟，首个 IPU 优化模型为 BERT。
Hugging Face BlogAI 评分3434 用 🤗 Transformers 微调 XLSR-Wav2Vec2 实现低资源 ASR
Hugging Face 发布教程，演示如何用 🤗 Transformers 将预训练检查点 Wav2Vec2-XLS-R-300M 微调用于低资源语音识别，示例数据集为 Common Voice 土耳其语，仅约 4 小时验证训练数据。
Hugging Face BlogAI 评分2222 Hugging Face 课程第二部分发布暨社区活动
Hugging Face 课程第二部分将于 11 月 15 日发布，聚焦 token 分类、语言建模、翻译、摘要和问答等 NLP 任务，并深入讲解 Datasets 与 Tokenizers。配套社区活动包含两天讲座和团队项目，AWS 通过 Amazon SageMaker 提供免费算力，完成项目者可获结业证书。
Hugging Face BlogAI 评分4242 Hugging Face 用 10 亿句对训练句嵌入模型
Hugging Face 在社区周期间用 10 亿句对训练出 SOTA 句嵌入模型，硬件为 7 块 TPU v3-8，并获得 Google Flax、JAX 与 Cloud 团队指导。训练采用批内负样本的对比学习目标（InfoNCE/NTXentLoss），通过增大 batch size、引入 hard negatives 和跨数据集组批提升效果。模型与数据集已在模型卡中公开。
Hugging Face BlogAI 评分2222 Hugging Face：机器学习即代码的时代已经到来
Hugging Face 发文指出，机器学习正像十年前的 DevOps 一样走向"机器学习即代码"，软件工程的最佳实践应被数据科学与机器学习采纳。Kaggle 调查显示 75% 受访者使用云服务、超 45% 使用企业 ML 平台，前三为 Amazon SageMaker、Databricks 和 Azure ML Studio。
Hugging Face BlogAI 评分2222 用遥感（卫星）图像与描述文本微调 CLIP
一个跨 12 个时区的团队用 RSICD、UCM 和 Sydney 三个遥感数据集微调了 OpenAI 的 CLIP，使其能按文本描述检索卫星图像。训练采用对比学习，并用 Torchvision 图像增强与 Marian MT 回译文本增强抑制过拟合。模型、项目页与 demo 均已公开，可用于以文本查询大规模卫星图像库。
Hugging Face BlogAI 评分3434 用 Gradio 在 Hugging Face Spaces 中展示你的项目
Gradio 与 Hugging Face Hub 集成，只需定义 Interface 并调用 .launch() 即可演示模型，底层调用 Inference API，支持 Transformers、spaCy、SpeechBrain、Asteroid 及 image-to-text、speech-to-text、text-to-speech 等模型类型。
Hugging Face BlogAI 评分2525 用 Streamlit 在 Hugging Face Spaces 上托管模型与数据集
Hugging Face 发布博客，介绍如何用 Streamlit 在 Hugging Face Spaces 上托管模型和数据集并部署 Streamlit 应用。
Hugging Face BlogAI 评分2222 Hugging Face 夏季回顾：Spaces Beta、模型破 16000 与 JAX/Flax Sprint
Hugging Face 回顾夏季进展：Hub 上的公开模型仓库从 1 万个增至超过 1.6 万个，并推出可直接托管 ML 演示应用的 Spaces Beta，支持 Gradio 和 Streamlit。7 月举办的 JAX/Flax Sprint 吸引近 800 名参与者，产出 170 多个模型、22 个数据集和 38 个 Spaces 演示。
Hugging Face BlogAI 评分2222 Hugging Face 与 Graphcore 合作推出 IPU 优化的 Transformer 模型
Hugging Face 在 2021 AI Hardware Summit 上宣布启动 Hardware Partner Program，Graphcore 作为创始成员参与，双方将让开发者通过 Optimum 开源库在 IPU 上部署经认证的硬件优化 Transformer 模型，首批 IPU 优化模型将于今年晚些时候上线。
Hugging Face Blog精选AI 评分6262 Hugging Face 提出 DeDLOC：40 名志愿者协作预训练孟加拉语模型 sahajBERT
Hugging Face 团队提出 DeDLOC 协作式分布式训练方法，可自适应参与者的网络与硬件条件，并用 40 名志愿者在互联网上预训练出孟加拉语模型 sahajBERT。
推荐理由：Hugging Face 团队用 40 名志愿者在互联网上预训练出孟加拉语模型，给出了分布式协作训练在真实场景中的完整方法与评测结果。
Hugging Face BlogAI 评分4242 Hugging Face Hub 正式支持 spaCy 模型
Hugging Face Hub 现已支持 spaCy，用户可通过一条命令上传任意 spaCy pipeline 包，并自动生成模型卡和元数据。Hub 的 spaCy 组织已收录 60 多个来自 3.1 版本的官方模型，Inference API 开箱支持 NER，并配有 NER 可视化组件。
Hugging Face BlogAI 评分3434 实战少样本学习：GPT-Neo 与 🤗 Accelerated Inference API
Hugging Face 发文介绍如何用 EleutherAI 的 GPT-Neo 配合 🤗 Accelerated Inference API 实现少样本学习预测。
Hugging Face BlogAI 评分5050 用 Gradio 2.0 加载与混搭 Hugging Face 模型
Gradio 2.0 发布，只需 1 行代码即可为几乎任意 Hugging Face 模型加载 GUI，默认调用 Hugging Face 托管的 Inference API，也可本地运行 transformers。该版本支持并行加载多个模型进行对比，或将模型串联组合，例如用 3 行代码搭建翻译并摘要芬兰语新闻的应用。
OpenAI NewsAI 评分2222 OpenAI Scholars 2021 毕业项目发布
OpenAI 宣布 2021 届 OpenAI Scholars 已完成为期六个月的导师计划，并在 OpenAI 提供的津贴与支持下完成了开源研究项目。