Hugging Face Blog·· 2023-04-17AI 评分38
Hugging Face 用 AWS Inferentia2 加速 Transformers 推理
Accelerating Hugging Face Transformers with AWS Inferentia2
AI 导读
Hugging Face 与 AWS 合作，将 Hugging Face Transformers 针对 AWS Inferentia2 推理加速器进行优化，借助 optimum-neuron 无需切分或修改模型，一行代码即可编译。
来源：Hugging Face Blog · huggingface.co