Mistral AI·· 2024-07-24精选AI 评分78
Mistral AI 发布 Mistral Large 2，123B 参数、128k 上下文
Large Enough
AI 导读
Mistral AI 发布 Mistral Large 2，参数规模 123B，支持 128k 上下文窗口，可在单节点上实现大吞吐推理。
推荐理由
官方给出 123B 参数、128k 上下文与多项基准对比，可据此判断单节点部署的成本与性能取舍。
来源：Mistral AI · mistral.ai
Large Enough
Mistral AI 发布 Mistral Large 2，参数规模 123B，支持 128k 上下文窗口，可在单节点上实现大吞吐推理。
官方给出 123B 参数、128k 上下文与多项基准对比，可据此判断单节点部署的成本与性能取舍。
来源：Mistral AI · mistral.ai