Hugging Face Blog·· 2023-02-10精选AI 评分62
Hugging Face 发布 PEFT 库,支持 LoRA 等参数高效微调方法
Parameter-Efficient Fine-Tuning using 🤗 PEFT
AI 导读
Hugging Face 发布 PEFT 库,提供 LoRA、Prefix Tuning、Prompt Tuning、P-Tuning 等参数高效微调方法,并与 Transformers 和 Accelerate 集成。
推荐理由
官方给出 PEFT 库支持的微调方法与消费级硬件上的显存占用示例,便于判断低成本微调大模型的可行路径。
来源:Hugging Face Blog · huggingface.co