跳到正文

#Hugging Face

今日 3 条
5月23日周五
  1. Hugging Face Blog62

    Hugging Face 发布 Python Tiny Agents:约 70 行代码实现 MCP 驱动的智能体

    Hugging Face 发布 Python 版 Tiny Agents,将 huggingface_hub 客户端 SDK 扩展为 MCP Client,可从 MCP 服务器拉取工具并在推理时传给 LLM,核心智能体代码约 70 行。

    推荐理由:Hugging Face 把 MCP 客户端并入 huggingface_hub,读者可据此用约 70 行代码搭出可复用工具调用的智能体。

5月21日周三
  1. Hugging Face Blog62

    Falcon-H1 发布:0.5B 到 34B 的混合注意力 SSM 模型家族

    Falcon-H1 系列发布六个开源模型,参数从 0.5B 到 34B,每个尺寸都有 base 和 instruct 版本,采用 Apache 2.0 许可。模型在混合 mixer 块中并行组合注意力与 Mamba-2 头,支持 256K 上下文和 18 种语言,官方称 0.5B 版本性能接近 2024 年的典型 7B 模型。

    推荐理由:Falcon-H1 用注意力与 SSM 并行混合架构,在 0.5B 到 34B 六个尺寸上给出效率与长上下文表现,可据此判断小模型部署的取舍。

5月19日周一
5月15日周四
5月14日周三
5月13日周二
5月12日周一
5月11日周日
4月30日周三
  1. Hugging Face Blog62

    如何用 Gradio 构建 MCP Server

    Gradio 官方发布指南,介绍如何用几行 Python 把 Gradio 应用启动为 MCP Server,让 LLM 以工具形式调用其中的函数。只需在 launch() 中设置 mcp_server=True,函数 docstring 会自动生成工具描述与参数,MCP 端点位于 /gradio_api/mcp/sse,可配置到 Cursor、Cline 等 MCP 客户端。

    推荐理由:Gradio 官方给出把任意 Python 函数变成 MCP 工具的最短路径,并列出资源、提示词与鉴权等新增能力。

4月29日周二
  1. Hugging Face Blog62

    Meta 发布 Llama Guard 4 与 Llama Prompt Guard 2

    Meta 发布 Llama Guard 4,一个从 Llama 4 Scout 剪枝而来的 12B 稠密多模态安全模型,可评估纯文本和图文输入,覆盖 MLCommons 定义的 14 类危害及代码解释器滥用,可在单张 24GB 显存 GPU 上运行。

    推荐理由:Meta 发布 12B 多模态安全模型与两款提示注入分类器,并给出可直接运行的 transformers 示例。

4月26日周六
  1. Hugging Face Blog62

    ServiceNow 开源 PipelineRL:用飞行中权重更新提升 LLM 强化学习训练效率

    ServiceNow 开源实验性 RL 实现 PipelineRL,核心创新是在 RL 训练中进行飞行中权重更新,让推理服务器在不停止推理的情况下接收新权重,从而同时保持高推理吞吐和接近 on-policy 的数据采集。

    推荐理由:ServiceNow 开源 PipelineRL,用飞行中权重更新化解推理吞吐与 on-policy 数据采集的取舍,并给出 7B/32B 训练对比结果。

4月25日周五
4月23日周三
4月16日周三
4月14日周一
4月11日周五
4月9日周三
4月8日周二
4月5日周六
  1. Hugging Face Blog88

    Llama 4 Maverick 与 Scout 上线 Hugging Face

    Meta 发布 Llama 4 Maverick(约 400B 总参数)和 Llama 4 Scout(约 109B 总参数)两款 MoE 模型,均为 17B 激活参数,原生支持文本与图像输入,已在 Hugging Face Hub 上线。

    推荐理由:文章给出 Llama 4 两款 MoE 模型的参数、上下文长度与架构细节,便于判断其部署门槛与长上下文能力。

4月4日周五
4月3日周四
4月2日周三
  1. Hugging Face Blog36

    高效请求排队:优化 LLM 性能

    TNG Technology Consulting 分享了自托管 LLM 服务中的请求排队优化经验,指出单个"重度用户"大量请求会填满 vLLM 等推理引擎的 FIFO 队列,阻塞其他用户。其方案是在 LLM-Server 层为每个用户和模型维护独立队列,用轮询调度替代 FIFO,并通过抓取 vLLM 的 /metrics 指标动态控制后端队列长度以降低新用户延迟。

3月31日周一
3月28日周五
3月27日周四
3月26日周三
3月24日周一
3月21日周五
  1. Hugging Face Blog18

    Hugging Face Inference Endpoints 推出全新实时分析仪表盘

    Hugging Face 为 Inference Endpoints 上线新版分析仪表盘,指标数据改为实时更新,并重构后端以加快高流量端点的数据加载速度。新仪表盘支持自定义时间范围与自动刷新,还新增副本生命周期视图,可追踪每个副本从初始化到终止的每次状态转换。官方表示仍在持续迭代并欢迎用户反馈。

3月20日周四
3月19日周三
3月18日周二
  1. Hugging Face Blog71

    NVIDIA 在 GTC 2025 发布 Cosmos Transfer、Physical AI Dataset 与 Isaac GR00T N1

    NVIDIA 在 GTC 2025 上发布三项面向物理 AI 开发的开源成果:世界基础模型 Cosmos Transfer、Physical AI Dataset 以及人形机器人基础模型 NVIDIA Isaac GR00T N1。

    推荐理由:NVIDIA 在 GTC 2025 一次性开源世界模型、数据集与人形机器人基础模型,读者可据此了解物理 AI 开发可用的工具链。