跳到正文
原文
Hugging Face Blog·· 2024-07-29AI 评分38

Hugging Face 与 NVIDIA 推出 NVIDIA NIM API(serverless)无服务器推理服务

Serverless Inference with Hugging Face and NVIDIA NIM

AI 导读

Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API(serverless),可在 Hugging Face Hub 上以无服务器方式对 Llama、Mistral 等开源模型运行推理,接口标准化于 OpenAI API。

来源:Hugging Face Blog · huggingface.co