跳到正文

#开源生态

今日 6 条
1月24日周二
1月20日周五
1月19日周四
  1. Hugging Face Blog42

    Hugging Face transformers 集成 Mask2Former 与 OneFormer,统一图像分割

    Mask2Former 和 OneFormer 两款统一图像分割模型现已集成到 Hugging Face transformers 开源库中。Mask2Former 用同一套掩码分类范式覆盖实例、语义和全景分割,但每个任务仍需单独训练;OneFormer 加入文本编码器,仅在全景数据上训练一次即可在三个任务上取得 SOTA,精度更高但延迟更大。

1月17日周二
1月9日周一
  1. Hugging Face Blog22

    AI 游戏开发:用 ChatGPT 辅助游戏设计,5 天做出农场游戏(第二部分)

    Hugging Face 博客系列教程第二部分展示如何用 ChatGPT 辅助农场游戏设计,作者向 ChatGPT 询问让农场游戏有趣的核心要素,得到作物多样性、进阶系统、动态环境、社交多人、沉浸式故事等建议,并因 5 天工期只先实现前两项。文章同时解释语言模型与 Transformer 原理,并提醒 ChatGPT 常言之凿凿却出错,宜作头脑风暴工具而非知识库。

1月2日周一
12月20日周二
12月15日周四
12月9日周五
  1. Hugging Face Blog62

    图解基于人类反馈的强化学习(RLHF)

    Hugging Face 博客图解 RLHF 的完整流程,将其拆为预训练语言模型、收集人类偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。文中说明奖励模型输出标量奖励,并用 KL 散度惩罚约束策略偏离初始模型,同时介绍了 TRL、TRLX、RL4LMs 等开源实现及 Anthropic 在 Hub 上发布的数据集。

    推荐理由:文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步,并梳理了 TRL、TRLX、RL4LMs 等开源工具与主要论文,适合作为理解该流程的入门参考。

12月2日周五
12月1日周四
  1. Hugging Face Blog70

    如何在 Apple Silicon 上用 Core ML 运行 Stable Diffusion

    借助 Apple 工程师提供的转换脚本和推理代码,Stable Diffusion 现在可以在 Apple Silicon 上通过 Core ML 运行,Hugging Face 已把 v1.4、v1.5、v2 base、v2.1 base 的官方权重转换好并放到 Hub 上。

    推荐理由:原文给出在 Apple Silicon 上用 Core ML 运行 Stable Diffusion 的完整流程与性能数据,可据此复现或自行转换权重。

11月30日周三
  1. Hugging Face Blog30

    VQ-Diffusion:基于离散隐空间的扩散模型

    中国科学技术大学与微软提出 VQ-Diffusion,一种在量化隐空间上进行加噪与去噪的条件扩散模型,隐空间由离散向量集合构成。该模型使用冻结的 VQ-VAE 编码图像,并以 CLIP 文本编码器加编码器-解码器 Transformer 预测去噪后的隐变量分布。相比自回归模型,VQ-Diffusion 在推理速度、误差累积和方向偏置三方面均有改善,可通过 🧨 Diffusers 几行代码调用。

11月29日周二
  1. Hugging Face Blog8

    Hugging Face 启动 2023 年实习生招聘,开放 8 个 AI 方向岗位

    Hugging Face 宣布启动 2023 年实习生招聘,开放 8 个岗位,涵盖 Accelerate、文本转语音、具身智能、大语言模型分布式训练框架、LLM 数据集、生成式 ML 社会影响评估和 AI 艺术工具等方向。实习生将与 Hugging Face 导师及相应开源库维护者合作,申请者需通过官方招聘门户提交申请并创建 Hugging Face 账号。

11月25日周五
  1. Hugging Face Blog22

    Hugging Face 与 Jonathan Whitaker 推出扩散模型课程并举办直播活动

    Hugging Face 与 Jonathan Whitaker 合作的扩散模型课程将于 11 月 28 日发布,免费讲解扩散模型的理论与应用。配合课程上线,11 月 30 日将举办社区直播活动,Stable Diffusion 创作者及 Stability AI、Meta 等机构的研究者将带来演讲,聚焦扩散模型的高层介绍与构建应用的工具。

11月21日周一
11月17日周四
11月8日周二
11月7日周一
11月3日周四
  1. Hugging Face Blog62

    用 🤗 Transformers 微调 Whisper 实现多语言 ASR

    Hugging Face 发布教程,介绍如何用 🤗 Transformers 在任意多语言 ASR 数据集上微调 Whisper。教程以 Common Voice 11.0 的印地语为例,用约 8 小时训练数据微调 244M 参数的 Whisper small,最佳 WER 为 32.0%,相比预训练模型的 63.5% 提升 31.5 个百分点。

    推荐理由:以 8 小时印地语数据微调 Whisper small 的完整流程,WER 从 63.5% 降至 32.0%,可复用的多语言 ASR 微调方法。

11月2日周三
10月19日周三
  1. Hugging Face Blog62

    Hugging Face 发布 MTEB 文本嵌入基准

    Hugging Face 发布 MTEB(Massive Text Embedding Benchmark),用于在多种嵌入任务上衡量文本嵌入模型性能,包含 56 个数据集、8 类任务,覆盖多达 112 种语言,榜单已汇总超过 2000 条结果。

    推荐理由:MTEB 把 56 个数据集、8 类任务和 2000 多条结果汇总成统一榜单,读者可据此理解文本嵌入模型的选型依据。

10月12日周三
10月7日周五
  1. Hugging Face Blog30

    Hugging Face 为模型和数据集引入 DOI

    Hugging Face 宣布用户可直接在 Hub 上为模型或数据集生成 DOI,其他人在模型或数据集页面点击“Cite this model/dataset”即可引用。该功能与 DataCite 合作,注册用户填写元数据后即可获得 DOI,新版本发布时 DOI 可更新、旧版本随之失效。带 DOI 的数据集和模型将永久保留,仅能通过向官方提交请求删除。

10月5日周三
10月3日周一
9月27日周二
9月22日周四
  1. Hugging Face Blog12

    Hugging Face 推出 Ethics and Society 通讯,首期聚焦 AI 伦理落地

    Hugging Face 发布首期 Ethics and Society 通讯,计划按季节在春分、秋分、夏至、冬至发布,由公司内部跨团队开放小组“Ethics and Society regulars”共同撰写。该通讯围绕协作、责任与透明三大创始价值观,分享将伦理落地到机器学习开发中的思考与实践。Hugging Face 同期上线模型与 Spaces 仓库“flag”功能,用于上报伦理与法律问题。

9月21日周三
9月16日周五
9月12日周一
9月8日周四
8月31日周三
  1. Hugging Face Blog40

    Hugging Face 支持的 OpenRAIL:面向开放且负责任 AI 的许可框架

    Hugging Face 支持的 RAIL Initiative 推出 OpenRAIL 许可框架,允许免版税访问、下游使用与再分发 AI 模型及其衍生品,同时嵌入针对特定关键场景的使用限制条款。该框架借鉴 BigScience、开源与 Creative Commons 的做法,主张开源许可不适配 ML 模型的技术特性,需以基于证据的方式划定开放使用与社会风险之间的边界。

8月24日周三
8月22日周一
8月17日周三
8月12日周五
8月11日周四
8月10日周三