跳到正文
原文
Hugging Face Blog·· 2021-07-15精选AI 评分62

Hugging Face 提出 DeDLOC 协作训练方法,40 名志愿者预训练出孟加拉语模型 sahajBERT

Deep Learning over the Internet: Training Language Models Collaboratively

AI 导读

Hugging Face 等机构提出 DeDLOC 协作分布式训练方法,可自适应参与者的网络与硬件条件,并用 40 名志愿者预训练出孟加拉语模型 sahajBERT。

推荐理由

DeDLOC 用 40 名志愿者和家用 GPU 预训练出孟加拉语模型,读者可了解分布式协作训练如何绕开算力门槛。

来源:Hugging Face Blog · huggingface.co