跳到正文

#部署/工程

今日 7 条
8月25日周二
  1. Mistral AI40

    Mistral 与 HUMAIN 达成战略合作,推进沙特及中东主权 AI

    Mistral 与 HUMAIN 宣布战略合作,覆盖 AI 基础设施、先进模型开发和 AI 解决方案部署,合作规模达数亿欧元。双方将优先聚焦网络安全与语音领域,并计划开发阿拉伯语表现强劲的前沿模型,Mistral 还将探索使用 HUMAIN 数据中心基础设施。双方计划在沙特制定联合市场策略,面向受监管行业提供 AI 解决方案。

8月21日周五
  1. Hugging Face Blog60

    Liquid AI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.2 倍

    Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下提升解码速度,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍。

    推荐理由:Liquid AI 给出三个 LFM2.5 模型的 DSpark 草稿模型与实测加速数据,读者可据此判断端侧推理的可用性。

8月18日周二
  1. Hugging Face Blog38

    Hugging Face 推出约束感知 GPU 分配器:同集群利用率最高提升 33 个百分点

    Hugging Face 构建了约束感知的 GPU 分配器,在七个基准场景中与 FIFO 调度器对比,相同硬件和负载下 GPU 利用率最高提升 33 个百分点,优先级加权产出在所有场景中均上升,最高提升 105%。在五个真实争用场景中,利用率从 52–85% 提升至 72–88%,优先级加权价值提升 24.6% 至 105.1%,平均 52%。

8月13日周四
8月11日周二
  1. Mistral AI62

    Mistral 推出区域推理端点与优先级服务,并接入 GLM-5.2 等第三方开源模型

    Mistral 宣布 Mistral Regional Endpoints 正式可用,客户可选择推理在欧洲或美国运行,同时 Mistral Priority Tier 进入公开预览,提供自定义速率限制和带 SLA 的可用性承诺。

    推荐理由:Mistral 把区域推理端点、优先级服务和第三方开源模型接入放在同一套基础设施上,读者可据此判断欧洲主权 AI 的落地路径。

  2. Hugging Face Blog62

    NVIDIA 发布 Magpie TTS 多语言版:364M 开放权重,新增阿拉伯语、韩语和巴西葡萄牙语

    NVIDIA 发布 Magpie TTS Multilingual,一个 364M 参数开放权重模型,支持 12 种语言,新增现代标准阿拉伯语、韩语和巴西葡萄牙语,并通过更新训练数据提升了多种既有语言的质量。

    推荐理由:原文给出 364M 开源 TTS 的多语言扩展与各 GPU 上的 TTFA 实测数据,便于评估自建语音链路的延迟预算。

8月10日周一
8月6日周四
8月4日周二
  1. Microsoft Research71

    微软研究院开源 Orchard:可扩展智能体 AI 框架

    微软研究院发布开源框架 Orchard,核心是 Kubernetes 环境服务 Orchard Env,可复用于软件工程、网页导航和个人助理三类智能体任务,并支持直接在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 中训练。

    推荐理由:微软研究院开源 Orchard 框架,用约 3B 激活参数在 SWE-bench Verified 上达到 69.7%,读者可据此判断小模型智能体的训练成本与可行性。

8月3日周一
7月30日周四
  1. Hugging Face Blog22

    GPU 管理:为什么闲置 GPU 是新的停场飞机

    Hugging Face 博客指出,AI 的下一个真正约束是 GPU 利用率而非智能水平。GPU 按日历小时计费,却只按计算小时产出,企业自购 GPU 后问题从"能否买到"变成"能否让它们保持忙碌"。文章以航空业停场飞机作类比,强调集群即使满载也可能浪费大部分潜力,因为 GPU 全天运行而需求并不持续。

7月29日周三
7月22日周三
7月16日周四
7月14日周二
7月10日周五
7月9日周四
  1. Mistral AI38

    Mistral Studio 为 Prompts 和 Skills 提供版本管理系统

    Mistral Studio 即日起为 Prompts 和 Skills 提供集中式记录系统,每个资产都具备不可变版本、明确归属和审计日志。用户可对比任意两个版本、查看变更并在数分钟内回滚,非开发者也能直接编辑和测试提示词,通过标签触发 CI/CD 部署。Skills 可作为 MCP 服务器直接从 Studio 调用,确保生产环境执行的是同一受治理资产。

7月8日周三
7月7日周二
  1. Hugging Face Blog62

    SkyPilot 与 Hugging Face 联合推出零出网费存储集成

    SkyPilot 与 Hugging Face 联合发布存储集成,用户可用一个 hf:// URL 和已有的 HF_TOKEN 把 Hugging Face Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务,并在 20 多个云、Kubernetes、Slurm 和本地环境上运行。

    推荐理由:原文给出 hf:// 挂载与零出网费的具体机制和跨云基准数据,读者可据此判断跨云训练存储成本的变化。

7月6日周一
  1. Hugging Face Blog34

    Hugging Face Kernels 项目重大更新:新增 kernel 仓库类型、可信发布者与代码签名

    Hugging Face 为 Kernels 项目引入 Hub 上的 "kernel" 新仓库类型,并新增可信发布者与代码签名两层安全机制,默认只加载可信发布者的 kernel,其他来源需显式传入 trust_remote_code。CLI 方面 kernels 与 kernel-builder 职责分离,框架支持新增 Torch Stable ABI 和 Apache TVM FFI。

6月30日周二
6月27日周六
6月26日周五
6月25日周四
  1. Google Research26

    Google 用线性弹性缓存优化云成本,Spanner 内存用量降 15.5%

    Google Research 提出线性弹性缓存,将页面淘汰建模为滑雪租赁问题,用轻量机器学习动态调整缓存大小。在 Spanner 生产环境测试中,内存用量减少 15.5%,缓存未命中仅增加 5.5%,总拥有成本(TCO)降低约 5%,实际 I/O 成本影响仅 0.5%。该方案用浅层决策树预测页面 TTL,已在 Spanner 生产服务器集成数月。