BLOOMZ 在 Habana Gaudi2 加速器上的快速推理

Hugging Face 展示如何用 Optimum Habana 在 Habana Gaudi2 上部署 1760 亿参数的 BLOOMZ 并完成推理。基准测试中，8 卡 Gaudi2 生成 100 token 耗时 3.103 秒，比 A100 80GB 的 4.402 秒快 1.42 倍；BLOOMZ-7B 在 Gaudi2 上比 A100 快 2.89 倍。