Hugging Face 详解 transformers 中的 MoE 支持：权重加载重构、专家后端与专家并行
Hugging Face 发文介绍 transformers 库为 Mixture of Experts（MoE）模型所做的工程改造，涵盖权重加载重构、专家后端与专家并行三部分。
推荐理由：Hugging Face 官方拆解 transformers 为 MoE 重构的加载、后端与并行方案，并给出 v4 与 v5 的实测对比。
部署工程
全部主题把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
最新精选
第 81–100 条 · 共 173 条Hugging Face Blog精选AI 评分6262
Hugging Face Blog精选AI 评分7171 GGML 与 llama.cpp 团队加入 Hugging Face，继续推进本地 AI
Hugging Face 宣布 GGML（llama.cpp 的创建者）加入 Hugging Face，Georgi Gerganov 及团队将获得长期可持续资源，以支持 ggml 和 llama.cpp 社区。
推荐理由：Hugging Face 将 llama.cpp 团队纳入麾下，读者可了解本地推理开源项目的资源与治理走向。
Hugging Face Blog精选AI 评分6262 Gradio 6 的 gr.HTML 支持自定义模板与 JS 交互
Gradio 6 为 gr.HTML 加入自定义模板、作用域 CSS 和 JavaScript 交互能力，可在单个 Python 文件中完成前端、后端与状态管理，无需构建步骤即可部署到 Hugging Face Spaces。
推荐理由：原文给出 gr.HTML 的模板与状态同步写法，读者可据此判断单文件自定义组件的可行边界。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布 CUDA kernel Agent 技能，Claude 与 Codex 为 LTX-Video 和 Qwen3-8B 生成可用内核
Hugging Face 构建了一个 Agent 技能，教编码智能体编写生产级 CUDA kernel，并用 Claude 和 Codex 在 diffusers 的 LTX-Video 与 transformers 的 Qwen3-8B 两个真实目标上端到端生成了可用的 kernel、PyTorch 绑定和基准脚本。
推荐理由：Hugging Face 把 CUDA kernel 开发经验封装成 Agent 技能，并给出两个真实模型的端到端基准，读者可据此判断这类技能的实际收益。
Hugging Face Blog精选AI 评分6666 Transformers.js v4 发布并上线 NPM
Transformers.js v4 已在 NPM 发布，可通过 npm i @huggingface/transformers 安装，距 2025 年 3 月启动开发约一年。
推荐理由：官方给出 v4 的 WebGPU 运行时重写、构建提速与包体积变化，可据此判断浏览器端推理的工程收益。
OpenAI News精选AI 评分6262 OpenAI 发布企业级智能体平台 OpenAI Frontier
OpenAI 发布企业平台 OpenAI Frontier，用于构建、部署和管理 AI 智能体。该平台提供共享上下文、入职引导、权限与治理能力。
推荐理由：OpenAI 把智能体的构建、部署与治理收进同一企业平台，可据此判断其企业侧落地路径。
OpenAI News精选AI 评分6262 OpenAI 与 Cerebras 合作新增 750MW 高速 AI 算力
OpenAI 宣布与 Cerebras 合作，新增 750MW 高速 AI 算力，用于降低推理延迟，让 ChatGPT 在实时 AI 工作负载下响应更快。
推荐理由：OpenAI 与 Cerebras 达成算力合作，读者可了解其新增算力规模与对推理延迟的直接影响。
Hugging Face Blog精选AI 评分6262 NVIDIA 发布 Cosmos Reason 2，面向物理 AI 的推理视觉语言模型
NVIDIA 发布 Cosmos Reason 2，一款面向物理 AI 的开源推理视觉语言模型，在 Physical AI Bench 和 Physical Reasoning 榜单上位列开源模型第一。
推荐理由：NVIDIA 官方发布 Cosmos Reason 2，给出 2B/8B 规格、256K 上下文与多项评测提升，可据此判断物理 AI 视觉推理的可用边界。
Hugging Face Blog精选AI 评分6262 如何用 NVIDIA DGX Spark 和 Reachy Mini 搭建桌面智能体
Hugging Face 博客发布教程，介绍如何用 NVIDIA DGX Spark 与 Reachy Mini 复现 CES 2026 主题演讲中的桌面智能体演示。
推荐理由：原文给出从模型选型到机器人接线的完整复现步骤，读者可据此搭建一套本地可控的桌面智能体。
Mistral AI精选AI 评分6666 Mistral 发布 OCR 3，表单与手写识别胜率较上一代提升 74%
Mistral 发布文档识别模型 Mistral OCR 3，在表单、扫描件、复杂表格和手写内容上相对 Mistral OCR 2 的整体胜率为 74%，官方称其准确率超过企业级文档处理方案和 AI 原生 OCR 方案。
推荐理由：官方给出 OCR 3 相对上一代在表单、手写和复杂表格上的胜率与每千页定价，便于评估替换成本。
Hugging Face Blog精选AI 评分6262 llama.cpp 新增模型管理功能：router 模式支持动态加载与切换模型
llama.cpp server 新增 router 模式，可在不重启服务的情况下动态加载、卸载和切换多个模型。该模式采用多进程架构，每个模型独立运行，单个模型崩溃不影响其他模型；支持自动发现缓存或 --models-dir 目录中的 GGUF 文件、按需加载、LRU 淘汰（默认 --models-max 4）以及按请求中的 model 字段路由。
推荐理由：llama.cpp server 新增 router 模式，读者可据此了解本地多模型动态加载与切换的具体用法。
Hugging Face Blog精选AI 评分7373 Hugging Face 发布 Transformers v5：以简洁模型定义支撑 AI 生态
Hugging Face 发布 Transformers v5.0.0rc-0，距 v4 首个候选版已五年，如今该库每天通过 pip 安装超过 300 万次，累计安装量突破 12 亿次。
推荐理由：Hugging Face 官方梳理 v5 在模型定义、训练、推理与量化上的取舍，可据此判断生态工具链的兼容方向。
Google Research精选AI 评分6262 Google 发布 Project Suncatcher 预印本，探索太空 AI 基础设施设计
Google 公布研究项目 Project Suncatcher，设想由太阳能卫星搭载 TPU 并通过自由空间光链路互联，构成可扩展的太空 AI 计算基础设施，相关预印本论文题为 Towards a future space-based, highly scalable AI infrastructure system design。
推荐理由：Google 公开了太空数据中心预印本，给出卫星互联、轨道与 TPU 抗辐射的实测数据，可据此判断这一构想的工程边界。
OpenAI News精选AI 评分7272 AWS 与 OpenAI 宣布多年战略合作
OpenAI 与 AWS 达成多年期、380 亿美元的战略合作，AWS 将提供基础设施与算力，用于支撑 OpenAI 下一代模型。合作规模为 380 亿美元，属于多年期协议。
推荐理由：OpenAI 与 AWS 达成 380 亿美元多年合作，读者可了解其算力来源与基础设施布局的变化。
Hugging Face Blog精选AI 评分6262 Hugging Face 分析全球算力格局变化：中国开源模型与国产芯片的相互牵引
Hugging Face 发布分析文章，指出中国开源权重模型的推理已开始由华为 Ascend、寒武纪等国产芯片承载，部分模型开始用国产芯片训练。文章认为美国出口管制与中国芯片产能提速高度相关，算力稀缺也促使 DeepSeek 的 MLA、GRPO 等效率创新走向开源，并推动 CUDA 之外的软件生态成形。
推荐理由：梳理中国开源模型与国产芯片互相牵引的路径，帮助读者理解算力受限如何影响模型架构与部署选择。
Mistral AI精选AI 评分6262 Mistral 发布 AI Studio 生产级 AI 平台
Mistral 发布 AI Studio，一个面向企业团队的生产级 AI 平台，由 Observability、Agent Runtime 和 AI Registry 三大支柱组成。
推荐理由：Mistral 把自家大规模系统的可观测、执行与治理能力打包成企业平台，可对照其三大支柱理解生产化 AI 的落地路径。
OpenAI News精选AI 评分7171 OpenAI 与 Broadcom 达成战略合作，将部署 10 吉瓦自研 AI 加速器
OpenAI 与 Broadcom 宣布多年期合作，将部署 10 吉瓦由 OpenAI 设计的 AI 加速器。双方还将共同开发下一代系统与以太网方案，目标是在 2029 年前支撑可扩展、高能效的 AI 基础设施。
推荐理由：OpenAI 与 Broadcom 合作自研加速器并规划 10 吉瓦部署，读者可了解其算力自建路径与时间表。
OpenAI News精选AI 评分7777 AMD 与 OpenAI 达成战略合作，将部署 6 吉瓦 AMD GPU
AMD 与 OpenAI 宣布达成多年战略合作，将部署 6 吉瓦 AMD Instinct GPU，用于支撑 OpenAI 的下一代 AI 基础设施。部署从 2026 年的 1 吉瓦起步。
推荐理由：OpenAI 与 AMD 达成多年算力合作，读者可了解其分阶段部署规模与时间安排。
Hugging Face Blog精选AI 评分6262 用 Core ML 和 MLX 在端侧运行 dots.ocr 的转换实践
Hugging Face 博客发布三部分系列文章，记录如何将 RedNote 的 3B 参数 OCR 模型 dots.ocr 转换到端侧运行，组合使用 Core ML 跑视觉编码器和 MLX 跑 Qwen2.5-1.5B 语言模型主干。
推荐理由：记录了把 3B OCR 模型从 PyTorch 转换到 Core ML 的完整排错过程，对端侧部署有可迁移的参考价值。
OpenAI News精选AI 评分6060 三星与 SK 加入 OpenAI 的 Stargate 计划，推进全球 AI 基础设施
三星与 SK 加入 OpenAI 的 Stargate 计划，以扩展全球 AI 基础设施。双方将扩大先进存储芯片生产，并在韩国建设下一代数据中心。
推荐理由：三星与 SK 加入 Stargate，读者可据此了解该计划在存储芯片与韩国数据中心上的落地方式。