Hugging Face Blog·· 2023-05-31AI 评分42
Hugging Face 推出 Amazon SageMaker LLM 推理容器
Introducing the Hugging Face LLM Inference Container for Amazon SageMaker
AI 导读
Hugging Face 发布面向 Amazon SageMaker 的 LLM 推理容器（DLC），由 Text Generation Inference（TGI）驱动，可部署 BLOOM、StarCoder、Llama、T5 等开源大模型。
来源：Hugging Face Blog · huggingface.co