跳到正文
原文
Mistral AI·· 2023-12-11精选AI 评分88

Mistral AI 发布开源稀疏 MoE 模型 Mixtral 8x7B

Mixtral of experts

AI 导读

Mistral AI 发布 Mixtral 8x7B,一个采用 Apache 2.0 许可、开放权重的稀疏混合专家(SMoE)模型,同时发布经监督微调和 DPO 优化的 Mixtral 8x7B Instruct。

推荐理由

Mistral 放出 Apache 2.0 的稀疏 MoE 权重,并给出与 Llama 2 70B、GPT3.5 的对比,便于判断开源模型的成本性能取舍。

来源:Mistral AI · mistral.ai