开源模型、框架与仓库动态：权重开放、社区项目爆火、开源与闭源的力量消长。
Gradio 发布 3.0 版本，对库进行了彻底重设计。新版前端改用 Svelte 等现代技术，页面加载更快、体积更小，并新增 Gallery 组件和 TabbedInterface 类，同时推出低层语言 Gradio Blocks，让开发者用 Python 构建自定义布局和多步数据流的 Web 应用。官方还举办 Gradio Blocks Party 竞赛，持续到 5 月底。
推荐理由：Gradio 3.0 重写前端并推出 Blocks 低层 API，读者可了解自定义 ML 演示界面的新写法。
Hugging Face 宣布完成 1 亿美元 C 轮融资，由 Lux Capital 领投，Sequoia、Coatue 等参与，现有投资方 Addition、a_capital、SV Angel 等继续支持。
推荐理由：Hugging Face 官方披露 C 轮融资规模与投资方，并给出平台模型、数据集和客户体量，可据此了解当时开源 ML 生态的商业化进展。
Hugging Face 博客介绍如何利用 Wav2Vec2 的 CTC 结构，在 🤗 Transformers 中对任意长音频做语音识别。
推荐理由：原文给出带 stride 的分块推理方法，读者可据此在长音频和实时场景中复用 Wav2Vec2。
Hugging Face 收购机器学习初创公司 Gradio，Gradio 联合创始人发文确认这一消息。Gradio 于 2019 年由斯坦福博士生与三位室友发布，用于让机器学习工程师快速搭建并分享模型 demo，目前已有超过 30 万个 demo 基于该库构建。作者表示加入 Hugging Face 后将继续发展 Gradio，让任何有浏览器的人都能使用机器学习模型。
推荐理由：Gradio 创始人以当事方视角讲述被 Hugging Face 收购的经过，并回顾该开源库从 2019 年起步到 30 万 demo 的历程。
Hugging Face 将 Google DeepMind 的 Perceiver IO 加入 Transformers 库，这是首个基于 Transformer、可处理文本、图像、音频、视频、点云等多种模态及其组合的神经网络。
推荐理由：Hugging Face 把 Perceiver IO 接入 Transformers，读者可了解这套统一处理文本、图像、音频、视频的架构如何实现。
Hugging Face 发布开源库 Optimum，目标是成为 Transformer 生产性能的优化工具集，让模型在特定硬件上训练和推理达到最高效率。Optimum 与硬件伙伴合作，把稀疏化、量化等加速技术与目标硬件适配的复杂度抽象出来，首个合作案例是 Intel Neural Compressor，用于在 Intel Xeon CPU 上量化模型。
推荐理由：Hugging Face 官方发布 Optimum 开源库，读者可了解其如何把硬件加速与量化流程抽象成统一工具。
OpenAI 发布 Triton 1.0，这是一门开源的类 Python 编程语言，让没有 CUDA 经验的研究者也能编写高效的 GPU 代码，多数情况下能达到专家水平。
推荐理由：OpenAI 开源 Triton 1.0，让没有 CUDA 经验的研究者也能写出接近专家水平的 GPU 代码。
Hugging Face 团队提出 DeDLOC 协作式分布式训练方法，可自适应参与者的网络与硬件条件，并用 40 名志愿者在互联网上预训练出孟加拉语模型 sahajBERT。
推荐理由：Hugging Face 团队用 40 名志愿者在互联网上预训练出孟加拉语模型，给出了分布式协作训练在真实场景中的完整方法与评测结果。
Hugging Face 发布开源库 Accelerate，让 PyTorch 用户在不改写训练循环的前提下使用分布式训练和混合精度。只需在标准训练脚本中加入约五行代码，Accelerate 就会自动完成设备放置、模型与优化器包装、数据加载器分片以及反向传播处理，并配套 accelerate config 与 accelerate launch 命令行工具。
推荐理由：原文给出五处代码改动即可让原生 PyTorch 脚本支持分布式与混合精度，可据此评估迁移成本。
Hugging Face 的 transformers v4.2.0 起为 Trainer 加入 DeepSpeed 和 FairScale 的 ZeRO 实验性支持，新增 --deepspeed 和 --sharded_ddp 命令行参数。
推荐理由：作者用 t5-large 与 t5-3b 的实测数据对比 FairScale 和 DeepSpeed 的显存与速度差异，可据此选择训练方案。
OpenAI 推出 Jukebox，一个能生成音乐的神经网络，可输出多种流派和艺术家风格的原始音频，并包含初步的歌唱。OpenAI 同时公开了模型权重和代码，以及一个用于试听生成样本的工具。
推荐理由：OpenAI 公开 Jukebox 的模型权重与代码，读者可了解这套生成原始音频的神经网络能产出哪些风格的音乐。
Hugging Face 发布博客，介绍用 transformers 库进行自回归语言生成的多种解码方法，包括贪心搜索、beam search 和采样。
推荐理由：系统梳理贪心、beam search 与采样等解码策略的差异，并给出 transformers 中可直接运行的参数配置。
Hugging Face 发布教程，演示如何用 transformers 和 tokenizers 库从零训练一个语言模型，并以世界语为例训练了 84M 参数（6 层、768 隐藏维度、12 注意力头）的 EsperBERTo。
推荐理由：以世界语为例完整演示从语料、分词器到预训练与下游微调的全流程，可迁移到其他低资源语言。
OpenAI 发布 774M 参数的 GPT-2 语言模型，此前已先后发布 124M 小模型和 355M 中模型。OpenAI 同时发布一份开源法律协议，方便机构之间建立模型共享合作，并发布一份技术报告，介绍与更广泛 AI 研究社区协调发布规范的经验。
推荐理由：OpenAI 公布 GPT-2 分阶段发布的时间线与参数规模，并给出模型共享的法律协议与技术报告。
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization（PPO），其表现与当时最先进方法相当或更好，同时实现和调参都简单得多。PPO 因易用且性能良好，已成为 OpenAI 的默认强化学习算法。
推荐理由：OpenAI 公开 PPO 算法并说明其比当时主流方法更易实现和调参，可了解该算法成为其默认强化学习方案的原因。
OpenAI 开源内部项目 OpenAI Baselines，目标是以与已发表结果相当的性能复现强化学习算法。算法将在未来数月陆续发布，首批包含 DQN 及其三个变体。
推荐理由：OpenAI 开源内部强化学习复现项目 Baselines，首批放出 DQN 及三个变体，可了解其复现思路与后续计划。
OpenAI 发布 Roboschool，这是一款用于机器人仿真的开源软件，已与 OpenAI Gym 集成。
推荐理由：OpenAI 开源机器人仿真软件并接入 Gym，读者可了解早期机器人强化学习环境的开放入口。
OpenAI 发布 OpenAI Gym 公测版，这是一个用于开发和比较强化学习（RL）算法的工具包。它包含一套持续扩充的环境（从模拟机器人到 Atari 游戏），以及一个用于比较和复现结果的站点。
推荐理由：OpenAI 公开了强化学习环境套件与结果对比站点的公测入口，可据此了解早期 RL 研究基础设施的形态。