Hugging Face Blog·· 2024-02-08精选AI 评分62
Hugging Face 为 TGI 推出兼容 OpenAI 的 Messages API
From OpenAI to Open LLMs with Messages API on Hugging Face
AI 导读
Hugging Face 为 Text Generation Inference（TGI）和 Inference Endpoints 推出 Messages API，从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口，可直接配合 OpenAI 客户端库、LangChain 或 LlamaIndex 使用。
推荐理由
TGI 新增 OpenAI 兼容的 Messages API，读者可据此判断现有 OpenAI 脚本迁移到开源模型的改造成本。
来源：Hugging Face Blog · huggingface.co