跳到正文
原文
Hugging Face Blog·· 2023-04-26AI 评分26

Databricks 与 Hugging Face 合作:LLM 训练和调优速度提升最高 40%

Databricks ❤️ Hugging Face: up to 40% faster training and tuning of Large Language Models

AI 导读

Databricks 向 Hugging Face 代码库提交首个官方贡献,新增 Datasets 的 from_spark 函数,可直接将 Apache Spark dataframe 转为 Hugging Face Dataset。以 16GB 数据集为例,处理时间从 22 分钟降至 12 分钟,提速超 40%。Databricks 还计划为 Spark 加入流式支持以进一步加快数据集加载。

来源:Hugging Face Blog · huggingface.co