ONNX Runtime 加速 Hugging Face 超 13 万个模型

Hugging Face 上已有超过 13 万个支持 ONNX 的模型可借助 ONNX Runtime 加速，覆盖 90 多种模型架构，包括 BERT、GPT2、T5、Whisper、Stable-Diffusion 等。以 whisper-tiny 为例，使用 ONNX Runtime 后单次推理平均延迟相比 PyTorch 最高提升 74.30%。