跳到正文
原文
Hugging Face Blog·· 26 天前AI 评分39

Liquid AI 发布 LFM2.5-VL-DSpark 草稿模型,为 LFM2.5-VL-3B 加速推理

Accelerating vision-language models with LFM2.5-VL-DSpark

AI 导读

Liquid AI 为视觉语言模型 LFM2.5-VL-3B 发布实验性 DSpark 草稿模型,通过投机解码在不改变输出质量的前提下实现最高 3.13x 端侧解码加速和 2.66x H100 解码加速,端到端最高提升 2.62x 和 2.27x。

来源:Hugging Face Blog · huggingface.co