跳到正文
原文
Hugging Face Blog·· 2021-09-14精选AI 评分60

Hugging Face 发布 Optimum:面向大规模 Transformer 的优化工具库

Introducing Optimum: The Optimization Toolkit for Transformers at Scale

AI 导读

Hugging Face 发布开源库 Optimum,目标是成为 Transformer 生产性能的优化工具集,让模型在特定硬件上训练和推理达到最高效率。Optimum 与硬件伙伴合作,把稀疏化、量化等加速技术与目标硬件适配的复杂度抽象出来,首个合作案例是 Intel Neural Compressor,用于在 Intel Xeon CPU 上量化模型。

推荐理由

Hugging Face 官方发布 Optimum 开源库,读者可了解其如何把硬件加速与量化流程抽象成统一工具。

来源:Hugging Face Blog · huggingface.co