Hugging Face Blog·· 2024-05-24精选AI 评分62
TII 发布 Falcon 2 11B:11B 参数预训练语言模型与 VLM,训练数据超 5000B token、覆盖 11 种语言
Falcon 2: An 11B parameter pretrained language model and VLM, trained on over 5000B tokens and 11 languages
AI 导读
TII 发布第二代 Falcon 模型 Falcon 2,首发 11B 参数的基础语言模型和 11B 视觉语言模型(VLM),后者在 LLM 基础上接入 CLIP ViT-L/14 视觉编码器,可对图像内容进行文本问答。
推荐理由
原文给出 Falcon 2 11B 的 LLM 与 VLM 两个版本、训练数据规模和评测对比,可据此判断小尺寸开源模型的能力位置。
来源:Hugging Face Blog · huggingface.co