Hugging Face Blog·· 2021-07-15精选AI 评分62
Hugging Face 提出 DeDLOC 协作训练方法,40 名志愿者预训练出孟加拉语模型 sahajBERT
Deep Learning over the Internet: Training Language Models Collaboratively
AI 导读
Hugging Face 等机构提出 DeDLOC 协作分布式训练方法,可自适应参与者的网络与硬件条件,并用 40 名志愿者预训练出孟加拉语模型 sahajBERT。
推荐理由
DeDLOC 用 40 名志愿者和家用 GPU 预训练出孟加拉语模型,读者可了解分布式协作训练如何绕开算力门槛。
来源:Hugging Face Blog · huggingface.co