跳到正文
原文
Hugging Face Blog·· 2025-03-28AI 评分34

Hugging Face 将 Intel Gaudi 支持原生集成进 TGI

🚀 Accelerating LLM Inference with TGI on Intel Gaudi

AI 导读

Hugging Face 通过 PR #3091 将 Intel Gaudi 硬件支持原生集成进 Text Generation Inference(TGI),取代此前独立维护的 tgi-gaudi 分支,覆盖 Gaudi1、Gaudi2、Gaudi3 全线硬件。

来源:Hugging Face Blog · huggingface.co