Hugging Face Blog·· 2023-08-08精选AI 评分62
Hugging Face 发布 Swift Transformers，在 Apple 设备上运行端侧 LLM
Releasing Swift Transformers: Run On-Device LLMs in Apple Devices
AI 导读
Hugging Face 发布 swift-transformers Swift 包及配套工具，让开发者能在 Mac 和 iOS 设备上用 Core ML 运行 Llama 2、Falcon 等大语言模型。
推荐理由
Hugging Face 放出在 Apple 设备本地跑 Llama 2 的 Swift 工具链，读者可据此判断端侧大模型的落地路径。
来源：Hugging Face Blog · huggingface.co