跳到正文
原文
Hugging Face Blog·· 2023-07-04AI 评分32

用 Hugging Face Inference Endpoints 部署 LLM

Deploy LLMs with Hugging Face Inference Endpoints

AI 导读

Hugging Face 发布教程,演示如何通过其托管 SaaS 服务 Inference Endpoints 部署开源 LLM,以 Falcon 40B instruct 为例,选用 1x Nvidia A100 实例,约 10 分钟即可上线。

来源:Hugging Face Blog · huggingface.co