Google 用冻结多 Token 预测加速 Pixel 上的 Gemini Nano 模型
Google Research 发布一种新架构，将多 Token 预测（MTP）头挂接到已冻结的 Gemini Nano v3 模型上，在 Pixel 9 和 10 系列上实现开箱即用的加速。
推荐理由：Google 把 MTP 头挂到冻结的 Gemini Nano v3 上，读者可了解端侧推理在内存与能耗约束下的具体优化路径。
部署工程
全部主题把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
最新精选
第 41–60 条 · 共 173 条Google Research精选AI 评分6060
Hugging Face Blog精选AI 评分6262 用一条命令在 HF Jobs 上运行 vLLM 服务器
Hugging Face 发布教程，介绍用一条 hf jobs run 命令在 HF 基础设施上启动私有、兼容 OpenAI API 的 vLLM 端点，按秒计费，无需自行配置服务器或 Kubernetes。
推荐理由：原文给出从启动到查询、SSH 调试和接入编码智能体的完整命令，可据此复现私有 vLLM 端点。
Hugging Face Blog精选AI 评分6060 NVIDIA NeMo AutoModel 发布：MoE 微调吞吐提升 3.4-3.7 倍
NVIDIA 在 Hugging Face 博客发布开源库 NeMo AutoModel，基于 Transformers v5 构建，为 MoE 模型微调加入 Expert Parallelism、DeepEP 融合 all-to-all 调度和 TransformerEngine 内核。
推荐理由：原文给出 NeMo AutoModel 在 MoE 微调上的吞吐与显存对比，读者可据此判断是否值得替换现有训练栈。
OpenAI News精选AI 评分6262 OpenAI 与 Broadcom 发布 LLM 推理定制芯片 Jalapeño
OpenAI 与 Broadcom 联合推出 Jalapeño，一款专为 LLM 推理打造的定制 AI 芯片。该芯片旨在提升 AI 系统的性能、效率与规模化能力。
推荐理由：OpenAI 与 Broadcom 联合推出面向 LLM 推理的定制芯片，读者可了解其在性能与规模化上的定位。
Mistral AI精选AI 评分6262 Mistral 发布 OCR 4，支持 170 种语言与单容器自托管
Mistral 发布 OCR 4，在提取文本之外返回边界框、块类型分类和逐页逐词置信度，支持 170 种语言、10 个语系，可打包进单个容器完全自托管。官方称独立标注者在 600 多份文档的盲评中平均 72% 更偏好 OCR 4，并在 OlmOCRBench 上取得 85.20 的最高分，但提示该基准与 OmniDocBench 的评分存在已知局限，建议用户在自己的文档上评测。
推荐理由：OCR 4 在文本之外返回边界框、块类型和置信度，读者可据此判断它如何接入 RAG 与智能体流程。
Hugging Face Blog精选AI 评分6262 Hugging Face 如何用 AI 与开源工具每周发布 huggingface_hub
Hugging Face 将 huggingface_hub 的发布周期从每 4 到 6 周一次改为每周一次，整条流水线跑在单个 GitHub Actions workflow 上，由 OpenCode 驱动开源权重模型（当前为 Z.ai 的 GLM-5.2）起草 release notes 和 Slack 公告，经 HF Inference Providers 提供服务。
推荐理由：Hugging Face 公开了每周发版流水线的完整结构，其中确定性校验加人工审核的循环可迁移到其他生成任务。
Hugging Face Blog精选AI 评分6262 如何用本地模型免费分诊 OpenClaw 仓库的 PR 与 Issue
Hugging Face 博客分享了用本地模型对 OpenClaw 仓库的 Issue 和 PR 做实时分诊的方案：在 Pi 智能体框架中运行 gemma-4-26b-a4b 和 qwen3.6-35b-a3b，通过受限的 reposhell 只读命令补充上下文，再用 final_json 输出分类标签。
推荐理由：原文给出本地模型做 PR/Issue 分类的完整架构与 330 行评测数据，可迁移到其他高吞吐筛选场景。
Hugging Face Blog精选AI 评分6262 用 Strands Agents 和 LeRobot 从 Hugging Face Hub 走到机器人硬件
AWS 开源 SDK Strands Robots（Apache 2.0）把 LeRobot 栈封装成 AgentTools，用单个 Strands 智能体串起从 Hub 数据集到实体机器人的流程。
推荐理由：AWS 团队给出从 Hub 数据集到实体机器人的完整五步流程，可据此判断智能体编排机器人栈的落地方式。
OpenAI News精选AI 评分6060 OpenAI 推出合作伙伴网络，投入 1.5 亿美元
OpenAI 推出 Partner Network，投入 1.5 亿美元帮助全球合作伙伴加速企业 AI 的采用、部署与转型。
推荐理由：OpenAI 以 1.5 亿美元投入搭建合作伙伴体系，读者可据此了解其企业级 AI 落地的渠道策略。
OpenAI News精选AI 评分6262 OpenAI 宣布收购 Ona，为 Codex 扩展持久云端环境
OpenAI 计划收购 Ona，以扩展 Codex 的安全持久云端环境，支持在企业工作流中运行长时间运行的 AI 智能体。
推荐理由：OpenAI 收购 Ona 以扩展 Codex 的云端运行环境，读者可据此了解其企业级智能体布局方向。
Google DeepMind精选AI 评分7676 Google DeepMind 发布 DiffusionGemma：文本生成最高提速 4 倍
Google DeepMind 发布实验性开放模型 DiffusionGemma，采用文本扩散方式并行生成整块文本，在专用 GPU 上最高实现 4 倍推理提速。
推荐理由：官方给出 26B MoE 文本扩散模型的开放权重与硬件实测数据，可据此判断本地低并发推理的取舍。
Hugging Face Blog精选AI 评分6262 如何把 GitHub CI 迁移到 Hugging Face Jobs
Hugging Face 发布教程，介绍如何让 GitHub Actions 把 CI 任务调度到 Hugging Face Jobs 上运行，只需把 runs-on 从 ubuntu-latest 改成 hf-jobs-cpu-upgrade 或 hf-jobs-t4-small 等标签。
推荐理由：原文给出把 GitHub Actions 任务改跑在 Hugging Face Jobs 上的完整步骤与 Trackio 实测数据，可迁移到需要 GPU 的 CI 场景。
Hugging Face Blog精选AI 评分7272 H Company 发布 Holo3.1 系列 computer-use 模型，支持本地量化推理
H Company 发布 Holo3.1 系列 computer-use 模型，基于 Qwen 家族，覆盖 0.8B、4B、9B 和 35B-A3B 四种尺寸，并首次提供 FP8、Q4 GGUF 和 NVFP4 量化权重用于本地推理。
推荐理由：Holo3.1 给出跨环境、跨框架与本地量化部署的具体数据，可据此判断 computer-use 智能体在端侧落地的可行性。
Hugging Face Blog精选AI 评分6060 JetBrains 发布 Mellum2：12B MoE 模型，每 token 仅激活 2.5B 参数
JetBrains 发布 Mellum2，一个从零训练、面向自然语言与代码的 12B 参数 MoE 模型，每个 token 仅激活 2.5B 参数，采用 Apache 2.0 许可。官方称其相比同规模模型推理速度超过 2 倍，可用于路由、RAG、摘要、子智能体和高吞吐编码场景，模型已在 Hugging Face 开放下载。
推荐理由：JetBrains 开源 12B MoE 模型，激活 2.5B 参数并主打低延迟，可据此判断它在多模型系统中的定位。
OpenAI News精选AI 评分6262 OpenAI 在密歇根动工 1GW 数据中心，推进 Stargate 项目
OpenAI 在密歇根破土动工一个 1GW 数据中心项目，属于 Stargate 计划的一部分，用于建设 AI 基础设施，以扩大使用范围、创造就业并支持社区。
推荐理由：OpenAI 在密歇根动工 1GW 数据中心，读者可了解 Stargate 算力扩张的落地节奏与选址方向。
Mistral AI精选AI 评分6767 Mistral 发布工业工程 AI 栈，Vibe 升级为长周期智能体
Mistral 在 AI Now Summit 2026 上发布面向工业工程的 AI 栈，与 Airbus、BMW、ASML 合作优化设计、仿真与生产，并强调对专有数据和 IP 的完全控制。
推荐理由：Mistral 一次性给出工业 AI 栈、Vibe 智能体和自建推理数据中心三条产品线，可据此判断其企业级全栈布局。
Mistral AI精选AI 评分6060 Mistral 推出物理 AI，将 Emmi AI 并入企业工程栈
Mistral 宣布将 Emmi AI 并入公司，推出面向工业工程的物理 AI 能力，作为其企业解决方案中的新基础能力。该能力从几何与边界条件直接预测完整物理场，单次前向推理在单 GPU 上以秒级完成，而非传统求解器所需的数小时到数周。
推荐理由：Mistral 把物理仿真模型并入企业平台，读者可据此判断工程仿真工作流会被怎样改写。
Hugging Face Blog精选AI 评分6262 Hugging Face 在 TRL 中实现 Delta Weight Sync，用 Hub Bucket 传输万亿参数增量
Hugging Face 在 TRL 中落地 Delta Weight Sync：只把 RL 优化器步之间真正变化的 bf16 权重编码成稀疏 safetensors 文件，上传到 Hugging Face Bucket，再由 vLLM 拉取应用。
推荐理由：TRL 把稀疏增量权重同步落到可 pip 安装的实现，读者可据此判断跨机房异步 RL 的部署成本变化。
Mistral AI精选AI 评分6262 Mistral 收购 Physics AI 公司 Emmi AI
Mistral AI 本周签署最终协议，收购 Physics AI 先驱 Emmi AI，以强化其作为工业企业 AI 转型伙伴的定位。Emmi AI 成立于奥地利，团队超过 30 名研究人员和工程师，其大型工程模型可把多日计算替换为实时仿真并构建数字孪生，团队将于 5 月加入 Mistral 的 Science 与 Applied AI 团队。
推荐理由：Mistral 通过收购补齐 Physics AI 能力，读者可了解其工业 AI 布局与科学路线图的具体落点。
Mistral AI精选AI 评分6666 Mistral 在 Studio 发布 Connectors，支持内置与自定义 MCP
Mistral 在 Studio 发布 Connectors，内置连接器和自定义 MCP 均可通过 API/SDK 用于所有模型与智能体调用，目前处于 Public Preview。
推荐理由：Mistral 把 MCP 集成层收进平台，读者可据此判断企业智能体的接入与治理成本会如何变化。