Hugging Face Blog·· 2024-10-22精选AI 评分78
Transformers.js v3 发布：支持 WebGPU、新量化格式与 120 种架构
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
AI 导读
Hugging Face 发布 Transformers.js v3，新增 WebGPU 支持，官方称比 WASM 快至多 100 倍，加载模型时设置 device: 'webgpu' 即可启用。
推荐理由
官方给出 WebGPU 加速、量化格式与 1200 多个预转换模型，可据此判断浏览器端推理的落地条件。
来源：Hugging Face Blog · huggingface.co