跳到正文
原文
Hugging Face Blog·· 2023-10-03AI 评分40

Hugging Face Diffusers 支持在 Cloud TPU v5e 上用 JAX 加速 Stable Diffusion XL 推理

🧨 Accelerating Stable Diffusion XL Inference with JAX on Cloud TPU v5e

AI 导读

Hugging Face Diffusers 现已支持在 Cloud TPU 上通过 JAX 运行 SDXL 推理。该方案基于 JAX jit 编译与 XLA pmap 并行,在多个 TPU v5e-4 实例上约 4 秒可生成四张 1024×1024 图像,纯生成时间约 2.3 秒。TPU v5e 成本不到 TPU v4 的一半,实例提供 1、4、8 至 256 芯片多种规格。

来源:Hugging Face Blog · huggingface.co