Hugging Face Blog·· 2023-08-08精选AI 评分62
Hugging Face 发布 Swift Transformers,在 Apple 设备上运行端侧 LLM
Releasing Swift Transformers: Run On-Device LLMs in Apple Devices
AI 导读
Hugging Face 发布 swift-transformers Swift 包及配套工具,让开发者能在 Apple 设备上通过 Core ML 运行 Llama 2、Falcon 等模型。
推荐理由
Hugging Face 发布 Swift 端侧 LLM 工具链,读者可了解在 Apple 设备上跑 Llama 2 的完整路径与当前限制。
来源:Hugging Face Blog · huggingface.co