Hugging Face Blog·· 2024-02-08精选AI 评分60
Hugging Face 为 TGI 和 Inference Endpoints 推出兼容 OpenAI 的 Messages API
From OpenAI to Open LLMs with Messages API on Hugging Face
AI 导读
Hugging Face 为 Text Generation Inference（TGI）和 Inference Endpoints 推出 Messages API，从 TGI 1.4.0 起提供与 OpenAI Chat Completion API 兼容的接口，可直接配合 OpenAI 客户端库以及 LangChain、LlamaIndex 使用。
推荐理由
官方给出 OpenAI 兼容接口的接入方式与限制，读者可据此评估把现有 OpenAI 调用迁到开源模型的成本。
来源：Hugging Face Blog · huggingface.co