最新精选 第 281–300 条 · 共 303 条 08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face Diffusers 自 0.5.1 版本起支持 Flax,可在 Colab、Kaggle 或 Google Cloud 的 TPU 上运行 Stable Diffusion 推理。
推荐理由:Hugging Face 官方给出在 TPU 上用 JAX/Flax 并行跑 Stable Diffusion 的完整步骤与实测耗时,可迁移到多设备推理。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 团队复盘了为 BLOOM 构建推理服务器的优化过程,在数周内实现延迟降低 5 倍、吞吐提升 50 倍。
推荐理由:Hugging Face 团队复盘 BLOOM 推理优化全过程,从 PP 到 TP、自定义 kernel 的取舍细节可供工程实践参考。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 介绍 Accelerate 如何借助 PyTorch 的 meta device、自动 device map 和分片 checkpoint,在显存与内存不足的消费级硬件上加载并运行超大语言模型。
推荐理由:原文拆解了 Accelerate 借助 PyTorch meta device 与分片加载运行超大模型的完整流程,可迁移到本地部署实践。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 与 Intel Labs、UKP Lab 合作发布 SetFit,一个无需提示词的 Sentence Transformers 少样本微调框架。
推荐理由:原文给出 SetFit 的两阶段训练流程与 RAFT 基准对比,读者可据此判断少样本分类的可用性与成本。
08:00 Hugging Face Blog 精选AI 评分 60 60 Hugging Face 发布教程,展示如何用 DeepSpeed-Inference、Accelerate 和 DeepSpeed ZeRO 为 176B 参数的 BLOOM 模型做推理,并给出在 8x80GB A100 上的实测数据。
推荐理由:文章给出 BLOOM 176B 在多种并行与量化方案下的实测吞吐和显存占用,可作为大模型推理部署的选型参考。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 发布 diffusers 0.3,新增图生图 pipeline、Textual Inversion、实验性 inpainting 与 ONNX 导出等能力。
推荐理由:diffusers 0.3 集中补齐图生图、Textual Inversion 与显存优化,可据此判断扩散模型工具链的成熟度。
08:00 Hugging Face Blog 精选AI 评分 74 74 Hugging Face 发布教程,介绍如何用 Diffusers 库运行 Stable Diffusion 文生图模型,并解释其 Latent Diffusion 的工作原理。
推荐理由:原文给出 Stable Diffusion 在 Diffusers 中的完整调用方式与自定义推理管线写法,可迁移到其他扩散模型。
08:00 Hugging Face Blog 精选AI 评分 67 67 Hugging Face 将 LLM.int8() 8-bit 量化集成进 transformers 与 accelerate,可在不损失性能的前提下把大模型显存占用降到约四分之一。
推荐理由:Hugging Face 官方详解 LLM.int8() 量化原理与 transformers 集成细节,并给出实测数据与代码示例。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 官方博客介绍,在 transformers 中用 TensorFlow 做文本生成现在可以通过 jit_compile=True 启用 XLA 编译,速度最高提升 100 倍,部分场景比 PyTorch 快 9 倍。
推荐理由:Hugging Face 官方给出 TensorFlow 文本生成接入 XLA 的一行改法与 padding 技巧,可迁移到实际推理加速。
08:00 Hugging Face Blog 精选AI 评分 82 82 Hugging Face 发布 BLOOM,一个 176B 参数的多语言大语言模型,可生成 46 种自然语言和 13 种编程语言的文本,是首个完全透明训练的多语言 LLM。
推荐理由:BLOOM 以 176B 参数覆盖 46 种自然语言并公开训练中间检查点,读者可据此了解开放大模型在透明度上的具体做法。
08:00 Hugging Face Blog 精选AI 评分 60 60 Hugging Face 推出 Evaluation on the Hub,由 AutoTrain 驱动,用户无需写代码即可在 Hub 上用任意数据集和指标评测任意模型。评测结果会以 Pull Request 形式写入模型卡元数据,并可在数据集页查看排行榜;官方已用该工具评测数百个模型并提交了 PR。工具支持三种场景:为任务找最佳模型、在新数据集上跑基线、以及用多个相关数据集评测自己的模型。
推荐理由:Hugging Face 把模型评测做成 Hub 上的一键流程,读者可据此了解免代码评测与结果回写模型卡的做法。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 博客发布《The Annotated Diffusion Model》,基于 Ho 等人 2020 年的 DDPM 论文,用 PyTorch 逐步实现去噪扩散概率模型。
推荐理由:以 PyTorch 逐步实现 DDPM 并附完整代码,适合想从原理到代码理解扩散模型的读者。
08:00 Hugging Face Blog 精选AI 评分 60 60 Gradio 发布 3.0 版本,对库进行了彻底重设计。新版前端改用 Svelte 等现代技术,页面加载更快、体积更小,并新增 Gallery 组件和 TabbedInterface 类,同时推出低层语言 Gradio Blocks,让开发者用 Python 构建自定义布局和多步数据流的 Web 应用。官方还举办 Gradio Blocks Party 竞赛,持续到 5 月底。
推荐理由:Gradio 3.0 重写前端并推出 Blocks 低层 API,读者可了解自定义 ML 演示界面的新写法。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 宣布完成 1 亿美元 C 轮融资,由 Lux Capital 领投,Sequoia、Coatue 等参与,现有投资方 Addition、a_capital、SV Angel 等继续支持。
推荐理由:Hugging Face 官方披露 C 轮融资规模与投资方,并给出平台模型、数据集和客户体量,可据此了解当时开源 ML 生态的商业化进展。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 博客介绍如何利用 Wav2Vec2 的 CTC 结构,在 🤗 Transformers 中对任意长音频做语音识别。
推荐理由:原文给出带 stride 的分块推理方法,读者可据此在长音频和实时场景中复用 Wav2Vec2。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 收购机器学习初创公司 Gradio,Gradio 联合创始人发文确认这一消息。Gradio 于 2019 年由斯坦福博士生与三位室友发布,用于让机器学习工程师快速搭建并分享模型 demo,目前已有超过 30 万个 demo 基于该库构建。作者表示加入 Hugging Face 后将继续发展 Gradio,让任何有浏览器的人都能使用机器学习模型。
推荐理由:Gradio 创始人以当事方视角讲述被 Hugging Face 收购的经过,并回顾该开源库从 2019 年起步到 30 万 demo 的历程。
08:00 Hugging Face Blog 精选AI 评分 60 60 Hugging Face 将 Google DeepMind 的 Perceiver IO 加入 Transformers 库,这是首个基于 Transformer、可处理文本、图像、音频、视频、点云等多种模态及其组合的神经网络。
推荐理由:Hugging Face 把 Perceiver IO 接入 Transformers,读者可了解这套统一处理文本、图像、音频、视频的架构如何实现。
08:00 Hugging Face Blog 精选AI 评分 60 60 Hugging Face 发布开源库 Optimum,目标是成为 Transformer 生产性能的优化工具集,让模型在特定硬件上训练和推理达到最高效率。Optimum 与硬件伙伴合作,把稀疏化、量化等加速技术与目标硬件适配的复杂度抽象出来,首个合作案例是 Intel Neural Compressor,用于在 Intel Xeon CPU 上量化模型。
推荐理由:Hugging Face 官方发布 Optimum 开源库,读者可了解其如何把硬件加速与量化流程抽象成统一工具。
08:00 Hugging Face Blog 精选AI 评分 62 62 Hugging Face 团队提出 DeDLOC 协作式分布式训练方法,可自适应参与者的网络与硬件条件,并用 40 名志愿者在互联网上预训练出孟加拉语模型 sahajBERT。
推荐理由:Hugging Face 团队用 40 名志愿者在互联网上预训练出孟加拉语模型,给出了分布式协作训练在真实场景中的完整方法与评测结果。
08:00 Hugging Face Blog 精选AI 评分 60 60 Hugging Face 发布开源库 Accelerate,让 PyTorch 用户在不改写训练循环的前提下使用分布式训练和混合精度。只需在标准训练脚本中加入约五行代码,Accelerate 就会自动完成设备放置、模型与优化器包装、数据加载器分片以及反向传播处理,并配套 accelerate config 与 accelerate launch 命令行工具。
推荐理由:原文给出五处代码改动即可让原生 PyTorch 脚本支持分布式与混合精度,可据此评估迁移成本。
上一页 1 … 13 14 15 16 下一页