Gradio 发布全新 gr.Dataframe 组件更新
Gradio 为 gr.Dataframe 组件发布大规模更新，6 周内关闭超 70 个 dataframe 相关问题。新功能包括多单元格选择、行号与列固定（pinned_columns）、复制与全屏按钮、搜索（show_search="search"）与过滤、静态列（static_columns）及键盘导航无障碍升级。
#部署/工程
#部署/工程
今日 9 条Hugging Face BlogAI 评分2222
Hugging Face BlogAI 评分1818 Hugging Face Inference Endpoints 推出全新实时分析仪表盘
Hugging Face 为 Inference Endpoints 上线新版分析仪表盘，指标数据改为实时更新，并重构后端以加快高流量端点的数据加载速度。新仪表盘支持自定义时间范围与自动刷新，还新增副本生命周期视图，可追踪每个副本从初始化到终止的每次状态转换。官方表示仍在持续迭代并欢迎用户反馈。
Hugging Face BlogAI 评分4040 Open R1 教程：如何在本地用 OlympicCoder 7B 做编程助手
Open R1 项目发布教程，介绍如何在本地通过 LM Studio 加载 4bit GGUF 量化的 OlympicCoder 7B，并接入 VS Code 的 Continue 扩展实现代码补全、生成、解释、重构和写测试。
Hugging Face Blog精选AI 评分6060 Hugging Face 将 Xet 存储上线 Hub，首批迁移 4.5 TB 仓库
Hugging Face 的 Xet 团队已将首批 Model 和 Dataset 仓库从 LFS 迁移到 Xet 存储，2 月 20 日当天共迁移 4.5 TB，约 6% 的 Hub 下载流量转到 Xet 基础设施。
推荐理由：Hugging Face 官方复盘 Xet 存储首次迁移，给出分块去重带来的传输收益与两个生产环境问题的修复过程。
Hugging Face BlogAI 评分3434 如何在手机上通过 React Native 运行 LLM：Hugging Face 边缘推理指南
Hugging Face 发布教程，指导开发者用 React Native 构建本地运行 LLM 的移动应用，通过 llama.rn（llama.cpp 的绑定）加载 GGUF 模型，从 Hugging Face hub 下载后完全离线运行。
Mistral AI精选AI 评分7777 Mistral AI 发布文档理解 API Mistral OCR
Mistral AI 发布光学字符识别 API Mistral OCR，可接收图片和 PDF，按顺序交错提取文本与图像，并作为 Le Chat 文档理解的默认模型。
推荐理由：官方给出 Mistral OCR 的定价、基准对比与自托管选项，读者可据此判断它在文档解析与 RAG 流程中的位置。
OpenAI NewsAI 评分2222 OpenAI 如何将工程周期加速 20%
OpenAI 帮助将工程周期加速 20%。
Hugging Face BlogAI 评分2828 用 Arize Phoenix 追踪与评估你的 Agent
Hugging Face 博客介绍如何用 Arize Phoenix 为 smolagents 构建的 Agent 实现追踪与评估：通过 OpenTelemetry + OpenInference 自动捕获每一步调用，并可用 OpenAI GPT-4o 以 LLM-as-a-judge 方式评估 DuckDuckGo 搜索工具结果的相关性。
Hugging Face Blog精选AI 评分6969 Hugging Face 发布 FastRTC：面向 Python 的实时通信库
Hugging Face 发布 FastRTC，一个用 Python 构建实时音频和视频 AI 应用的通信库，内置自动语音检测与轮次切换、WebRTC 与 Websocket 支持，以及可直接测试的 Gradio UI。
推荐理由：原文给出 FastRTC 的核心能力与最小示例，读者可据此判断在 Python 中搭建实时语音应用的接入成本。
Hugging Face BlogAI 评分3838 Hugging Face Diffusers 推出 Remote VAE：用 Inference Endpoints 远程解码
Hugging Face Diffusers 团队实验性推出 Remote VAE，将扩散模型的 VAE 解码过程委托给远程 Inference Endpoints 执行，以降低高分辨率图像和视频生成对消费级 GPU 的显存压力。
Hugging Face BlogAI 评分2727 Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商
Hugging Face Hub 新增 Hyperbolic、Nebius AI Studio 和 Novita 三家无服务器推理提供商，支持 DeepSeek-R1、FLUX.1 等模型，并已集成 JS 和 Python 客户端 SDK。用户可在账户设置中配置自有 API key 或经 HF 路由调用，PRO 用户每月获 2 美元推理额度。
Hugging Face BlogAI 评分2222 Fireworks.ai 成为 HF Hub 支持的推理服务商
Fireworks.ai 正式成为 Hugging Face Hub 支持的推理服务商，可在模型页面及整个 HF 生态中提供无服务器推理。
Hugging Face BlogAI 评分4848 Hugging Face 博客：如何以最低成本完成 10 亿次分类与嵌入推理
Hugging Face 博客给出大规模分类与嵌入推理的成本测算框架，用 Inference Endpoints、Infinity 和 k6 在 nvidia-L4（$0.8/hr）上实测三类任务。
Hugging Face Blog精选AI 评分6262 Hugging Face 详解 Xet 存储：从分块到块聚合加速 Hub 上传下载
Hugging Face 的 Xet 团队介绍其基于内容定义分块（CDC）的存储方案，通过将去重后的数据聚合为最大 64MB 的块、并用 shard 记录文件与块的映射，把 CAS 条目减少约 1000 倍，部分场景上传下载提速 2-3 倍。
推荐理由：Hugging Face 官方解释 Xet 存储如何用块级聚合替代逐块传输，读者可了解大文件上传下载提速的实现思路。
OpenAI NewsAI 评分2525 OpenAI 在欧洲推出数据驻留功能
OpenAI 面向欧洲客户推出数据驻留功能，允许其数据存储在本地。该功能建立在 OpenAI 面向全球客户的企业级数据隐私、安全与合规体系之上。
Mistral AI精选AI 评分7878 Mistral AI 发布 24B 模型 Mistral Small 3，Apache 2.0 开源
Mistral AI 发布 Mistral Small 3，一个面向低延迟优化的 24B 参数模型，以 Apache 2.0 许可开源，同时提供预训练和指令微调两个 checkpoint。
推荐理由：24B 参数在 Apache 2.0 下对标三倍体量模型，并给出量化后单卡本地部署的具体条件，便于判断端侧选型。
Hugging Face BlogAI 评分4848 如何在 AWS 上部署和微调 DeepSeek 模型
Hugging Face 发布指南，介绍如何在 AWS 上部署和微调 DeepSeek-R1 系列模型，包括 DeepSeek-R1-Zero、DeepSeek-R1 及 6 个基于 Llama 和 Qwen 架构蒸馏的密集模型。
Hugging Face Blog精选AI 评分6060 Hugging Face 在 Hub 上线 Inference Providers，接入 fal、Replicate、SambaNova、Together AI
Hugging Face 在 Hub 的模型页上线 Inference Providers，首批接入 fal、Replicate、SambaNova 和 Together AI 四家无服务器推理服务，并集成到 JS 与 Python 客户端 SDK。
推荐理由：Hugging Face 把四家无服务器推理商接入模型页与 SDK，读者可据此判断多供应商调用与计费方式的变化。
Hugging Face BlogAI 评分4242 用 KVPress 掌握 LLM 长上下文：NVIDIA 的 KV Cache 压缩工具包
NVIDIA 推出 Python 工具包 KVPress，通过一系列压缩算法降低长上下文 LLM 的 KV Cache 内存占用。以 Llama 3-70B 在 bfloat16 下处理 1M token 为例，KV Cache 需 327.6GB，占约 470GB 总内存的 70%。
Hugging Face BlogAI 评分2222 Hugging Face 与 FriendliAI 合作，在 Hub 上集成 FriendliAI Endpoints 部署选项
Hugging Face 与 FriendliAI 达成合作，将 FriendliAI Endpoints 作为部署选项集成进 Hugging Face Hub 的“Deploy this model”按钮，支持一键部署开源或自定义生成式 AI 模型。
OpenAI News精选AI 评分6262 OpenAI 就 Stargate 基础设施公开征集合作方
OpenAI 发布 Stargate Infrastructure 合作征集，面向数据中心建设相关企业寻求合作。征集范围覆盖电力、土地、施工、设备等数据中心基础设施环节，目标是推进其 AGI 基础设施愿景。
推荐理由：OpenAI 公开征集数据中心基础设施合作方，可了解其 AGI 算力建设覆盖的环节范围。
Hugging Face BlogAI 评分5252 Hugging Face 为 Text Generation Inference 引入多后端支持（TRT-LLM、vLLM）
Hugging Face 为 Text-Generation-Inference（TGI）引入 TGI Backends 架构，通过 Rust 的 Backend trait 把 HTTP 服务与调度层同推理引擎解耦，使 TGI 可作为统一前端层接入不同后端。
Hugging Face BlogAI 评分4040 Hugging Face 推出 TimmWrapper：在 transformers 中直接使用任意 timm 模型
Hugging Face 发布 TimmWrapper，让任意 timm 视觉模型可直接接入 transformers 生态，支持 pipeline API、Auto 类和 Trainer 微调。该工具可用约 5 行代码配合 BitsAndBytesConfig 完成 8bit 量化，并支持 torch.compile 加速推理与 LoRA 适配器微调，微调后模型还能回到 timm 使用。
Mistral AI精选AI 评分6262 Mistral AI 发布 Codestral 25.01 代码模型
Mistral AI 发布 Codestral 25.01，采用更高效的架构和改进的 tokenizer，代码生成与补全速度约为原版 Codestral 的 2 倍，上下文长度 256k。
推荐理由：Codestral 25.01 在 FIM 与多语言基准上给出与同量级模型的对比数据，可据此判断代码补全场景的选型。
Hugging Face Blog精选AI 评分6262 如何可视化并理解 PyTorch 训练中的 GPU 显存占用
Hugging Face 发布教程，介绍用 torch.cuda.memory._record_memory_history 记录并可视化 PyTorch 训练中的 GPU 显存使用。
推荐理由：文章用 PyTorch 内存快照拆解训练各阶段显存占用，并给出可复用的显存估算公式。
Hugging Face BlogAI 评分4040 用 NVIDIA LogitsProcessorZoo 控制语言模型生成
NVIDIA 推出 LogitsProcessorZoo，一组模块化 logits 处理器，可控制序列长度、强制关键短语、引导多选题答案，并与 Hugging Face 的 generate 方法完全兼容。该库通过直接修改语言模型头部的预测分数实现细粒度控制，安装命令为 pip install logits-processor-zoo。
Hugging Face BlogAI 评分5555 IBM 联合高校发布混合 Mamba2 模型 Bamba-9B
IBM、Princeton、CMU 和 UIUC 联合发布 Bamba-9B，一个基于完全开放数据训练的混合 Mamba2 模型，在 vLLM 中相比标准 Transformer 实现 2.5 倍吞吐提升和 2 倍延迟加速。
Hugging Face BlogAI 评分2222 Hugging Face 在 GCP 第 5 代 Xeon 上基准测试语言模型性能
Hugging Face 用 optimum-benchmark 在 Google Cloud 的 C4（第 5 代 Xeon，Emerald Rapids，支持 AMX）与 N2（第 3 代 Xeon，Ice Lake，仅 AVX-512）两款 96 vCPU 实例上，对文本嵌入和文本生成两类智能体 AI 负载做了对比。
Hugging Face BlogAI 评分2222 Hugging Face 模型上架 Amazon Bedrock Marketplace
Hugging Face 的 83 个开源模型现已通过 Amazon Bedrock Marketplace 提供，AWS 客户可直接部署并调用 Bedrock 的 Agents、Knowledge Bases、Guardrails 等 API。
Hugging Face BlogAI 评分3434 LLM 修复自身错误的能力如何？一项基于 Keras 和 TPU 的 chatbot arena 实验
Hugging Face 用 Keras、JAX 和 TPU 搭建了一个 chatbot arena，测试 LLM 在被指出错误后能否修正代码。实验在 TPU v5e 2x4 上以 bfloat16 同时加载了 5 个约 8B 参数模型和 3 个约 2B 参数模型，共 7 个 LLM，通过 Gradio 界面并行对话。
Hugging Face BlogAI 评分2222 CFM 如何用 LLM 辅助标注微调小模型，将金融 NER 成本降低 80 倍
Capital Fund Management（CFM）借助 Hugging Face Inference Endpoints 部署 Llama 3.1-70b-Instruct 生成标注、再用 Argilla 人工复核，微调出的小模型在金融 NER 任务上准确率最高提升 6.4%，推理成本较大模型降低最多 80 倍。
Hugging Face BlogAI 评分3434 Hugging Face 重新设计 Hub 上传与下载架构
Hugging Face 正在重新设计 Hub 的上传与下载架构，引入内容寻址存储（CAS）和自定义传输协议，采用“简单读取、智能写入”的思路，在字节层面分析文件以加速传输。新方案中读取仍由 S3 和 CloudFront 支撑，写入则通过 CAS 按 chunk 校验并只传输新增部分，压缩 tensor 文件（如 Safetensors）有望将上传速度提升 10-25%。
OpenAI NewsAI 评分2222 用 GPT-4o 视觉微调构建更智能的地图
OpenAI 发布案例，展示如何用 GPT-4o 的视觉微调能力构建更智能的地图。
Hugging Face BlogAI 评分3838 Hugging Face 详解 Self-Speculative Decoding：用 LayerSkip 加速文本生成
Hugging Face 介绍了基于 LayerSkip 的 self-speculative decoding，用同一 LLM 的早期层生成 draft token、深层验证，从而加速文本生成并节省显存。
Hugging Face BlogAI 评分4242 Hugging Face 如何用内容定义分块提升存储效率
Hugging Face 的 Xet 团队提出用内容定义分块（CDC）替代 Git LFS 的文件级存储，只传输和保存被修改的 chunk。在 CORD-19 数据集基准中，Xet 方案平均下载时间从 51 分钟降至 19 分钟，上传从 47 分钟降至 24 分钟，存储占用从 8.9 GB 降至 3.52 GB。
Mistral AIAI 评分4242 Mistral AI 推出 Batch API，批量推理成本降低 50%
Mistral AI 在 La Plateforme 上线 Batch API，处理高并发请求的成本比同步 API 调用低 50%。该 API 面向优先考虑数据量而非同步响应的场景，用户上传批处理文件后下载输出结果，适用于情感分析、文档批量摘要翻译、向量嵌入和数据标注等任务。目前覆盖 La Plateforme 上全部模型，每个工作区限制 100 万个进行中请求，后续将登陆其云服务合作伙伴平台。
Mistral AIAI 评分4747 Mistral AI 发布内容审核 API，由 Le Chat 审核服务驱动
Mistral AI 推出内容审核 API，与 Le Chat 审核服务同源，提供原始文本和对话内容两个端点。该模型是基于 LLM 的分类器，可将文本归入 9 个类别，原生支持阿拉伯语、中文、英语、法语、德语等 11 种语言，并针对模型生成的有害内容（如不专业建议和 PII）引入务实的安全方案。
Hugging Face BlogAI 评分3434 Hugging Face 集成进 PyCharm：右键即可插入 HF 模型
Hugging Face 在 PyCharm 中推出集成功能，开发者右键选择 "Insert HF Model" 即可搜索并插入模型代码，例如 microsoft/Phi-3.5-vision-instruct，无需打开浏览器就能在十分钟内跑通图像文本对话。
Hugging Face Blog精选AI 评分6262 Universal Assisted Generation：用任意辅助模型加速解码
Intel Labs 与 Hugging Face 提出 Universal Assisted Generation（UAG），通过双向 tokenizer 转换，让目标模型与任意模型族的辅助模型配对，无需共享 tokenizer。
推荐理由：Intel Labs 与 Hugging Face 提出跨 tokenizer 的辅助生成方法，读者可了解无需同族小模型即可加速推理的思路与实测数据。
Hugging Face Blog精选AI 评分6060 Hugging Face 推出 HUGS 生成式 AI 服务，零配置部署开源模型
Hugging Face 发布 Hugging Face Generative AI Services（HUGS），一套零配置的优化推理微服务，用于在自有基础设施上部署开源模型。
推荐理由：HUGS 把开源模型的优化部署从数周压缩到分钟级，并给出兼容 OpenAI API 的迁移路径，适合关注自托管推理成本的团队参考。