Hugging Face Blog·· 2023-04-26AI 评分26
Databricks 与 Hugging Face 合作:LLM 训练和调优速度提升最高 40%
Databricks ❤️ Hugging Face: up to 40% faster training and tuning of Large Language Models
AI 导读
Databricks 向 Hugging Face 代码库提交首个官方贡献,新增 Datasets 的 from_spark 函数,可直接将 Apache Spark dataframe 转为 Hugging Face Dataset。以 16GB 数据集为例,处理时间从 22 分钟降至 12 分钟,提速超 40%。Databricks 还计划为 Spark 加入流式支持以进一步加快数据集加载。
来源:Hugging Face Blog · huggingface.co