跳到正文
原文
Mistral AI·· 2024-07-16精选AI 评分71

Mistral 发布 Codestral Mamba 代码模型

Codestral Mamba

AI 导读

Mistral AI 发布 Codestral Mamba,这是继 Mixtral 系列之后在新架构上的又一步探索,可免费使用、修改和分发。该模型采用 Mamba 架构,具备线性时间推理和理论上可建模无限长序列的能力,在 256k tokens 的上下文检索能力上做了测试,Mistral 称其表现与基于 Transformer 的 SOTA 模型相当。

推荐理由

Mistral 发布基于 Mamba 架构的代码模型,给出参数规模、256k 检索测试和多种部署路径,可据此判断非 Transformer 架构在代码场景的可用性。

来源:Mistral AI · mistral.ai