跳到正文
原文
Hugging Face Blog·· 2022-08-18AI 评分22

Hugging Face Optimum Graphcore 深度解析:在 IPU 上微调 Vision Transformer

Deep Dive: Vision Transformers On Hugging Face Optimum Graphcore

AI 导读

Hugging Face 与 Graphcore 联合发布 Optimum Graphcore 库,提供预训练 ViT 模型检查点和配置文件,可在 IPU 上直接微调。博文以 ImageNet-21k 预训练的 ViT 为例,演示在 ChestX-ray14 数据集上的完整微调流程,并附有 notebook。IPU 的 MIMD 架构与流水线并行可提升训练效率。

来源:Hugging Face Blog · huggingface.co