Mistral AI·· 2024-07-18精选AI 评分75
Mistral 与 NVIDIA 联合发布 12B 模型 Mistral NeMo
Mistral NeMo
AI 导读
Mistral AI 与 NVIDIA 合作发布 12B 模型 Mistral NeMo,支持最长 128k tokens 上下文窗口,预训练基座与指令微调 checkpoint 均以 Apache 2.0 许可开源,可替换现有 Mistral 7B 系统。
推荐理由
Mistral 与 NVIDIA 联合发布的 12B 模型,给出了 128k 上下文、Apache 2.0 许可和 Tekken 分词器的具体压缩数据,便于判断其替换 Mistral 7B 的可行性。
来源:Mistral AI · mistral.ai