PyTorch 性能分析(第三部分):Attention 的 profile 实践
Hugging Face 博客发布《Profiling in PyTorch》系列第三部分,用 PyTorch 剖析 attention 的 profile 表现,脚本在 NVIDIA A100-SXM4-80GB 上运行。
Hugging Face 博客发布《Profiling in PyTorch》系列第三部分,用 PyTorch 剖析 attention 的 profile 表现,脚本在 NVIDIA A100-SXM4-80GB 上运行。
OpenAI 发布 ChatGPT 入门指南,介绍如何开始第一次对话,并演示用 AI 写作、头脑风暴和解决问题的简单方法。
Hugging Face 发布 PRX 系列第四篇,详解其数据策略:预训练数据由公开与内部数据集混合组成,用 VLM 重新生成图像长描述,再转为可流式语料。团队用 Lance 构建、MDS 流式训练,图像统一编码为 JPEG quality 92,并将文本编码器从 T5Gemma 换成 Qwen3-VL、改为训练中实时计算文本 latent,实测吞吐仅损失约 3–4%。
OpenAI 工程师通过大规模 core dump 分析排查基础设施的罕见崩溃,发现其中既有硬件故障,也有一个存在了 18 年的软件 bug。
Hugging Face 发布教程,介绍用一条 hf jobs run 命令在 HF 基础设施上启动私有、兼容 OpenAI API 的 vLLM 端点,按秒计费,无需自行配置服务器或 Kubernetes。
推荐理由:原文给出从启动到查询、SSH 调试和接入编码智能体的完整命令,可据此复现私有 vLLM 端点。
Google Chrome 团队开发者关系工程师 Thomas Steiner 在 Hugging Face 博客展示如何用 Cross-Origin Storage(COS)扩展在 Transformers.js 中试验跨源缓存。
Hugging Face 将 huggingface_hub 的发布周期从每 4 到 6 周一次改为每周一次,整条流水线跑在单个 GitHub Actions workflow 上,由 OpenCode 驱动开源权重模型(当前为 Z.ai 的 GLM-5.2)起草 release notes 和 Slack 公告,经 HF Inference Providers 提供服务。
推荐理由:Hugging Face 公开了每周发版流水线的完整结构,其中确定性校验加人工审核的循环可迁移到其他生成任务。
Jason Liu 分享了他使用 Codex 的实践:借助它保留上下文、管理复杂项目,让工作不再局限于单次提示词。
Hugging Face 博客分享了用本地模型对 OpenClaw 仓库的 Issue 和 PR 做实时分诊的方案:在 Pi 智能体框架中运行 gemma-4-26b-a4b 和 qwen3.6-35b-a3b,通过受限的 reposhell 只读命令补充上下文,再用 final_json 输出分类标签。
推荐理由:原文给出本地模型做 PR/Issue 分类的完整架构与 330 行评测数据,可迁移到其他高吞吐筛选场景。
Hugging Face 在 PEFT 库中对比了 40 多种参数高效微调技术,探讨 LoRA 是否真是最佳选择。统计显示,Hugging Face Hub 上提及单一 PEFT 技术的 20,834 个模型卡中有 20,509 个(98.4%)使用 LoRA,图像生成领域 10,000 个 checkpoint 中 95.0% 为 LoRA。
AWS 开源 SDK Strands Robots(Apache 2.0)把 LeRobot 栈封装成 AgentTools,用单个 Strands 智能体串起从 Hub 数据集到实体机器人的流程。
推荐理由:AWS 团队给出从 Hub 数据集到实体机器人的完整五步流程,可据此判断智能体编排机器人栈的落地方式。
Hugging Face 博客发布《Profiling in PyTorch》系列第二篇,用 nn.Linear 替换手写的 matmul-add,并堆叠三层加激活函数构成 MLP,在 NVIDIA A100-SXM4-80GB 上分析 profiler trace。
作者让编码智能体通过调用两个 Hugging Face Space 搭建了一个展示巴黎地标的 3D Gaussian splat 网站,全程未手动使用图像生成或 3D 重建工具。
推荐理由:作者用一次真实构建展示了 agents.md 如何让智能体串联两个 Space 完成图像到 3D 的流水线,可迁移到其他多媒体组合。
Hugging Face 发布教程,介绍如何让 GitHub Actions 把 CI 任务调度到 Hugging Face Jobs 上运行,只需把 runs-on 从 ubuntu-latest 改成 hf-jobs-cpu-upgrade 或 hf-jobs-t4-small 等标签。
推荐理由:原文给出把 GitHub Actions 任务改跑在 Hugging Face Jobs 上的完整步骤与 Trackio 实测数据,可迁移到需要 GPU 的 CI 场景。
DharmaOCR 团队将 Direct Preference Optimization(DPO)用于结构化 OCR 任务,把正确转录设为 chosen、重复退化循环设为 rejected,在 SFT 之后追加第二阶段训练,使所有测试模型家族的文本退化率平均下降 59.4%,最佳达 87.6%(Nanonets-OCR2–3B 从 1.61% 降至 0.20%)。
Hugging Face 博客指出,企业级 AI 规模化落地的关键不在 LLM 本身,而在智能体逻辑——即运行于智能体层、能引导 LLM 聚焦企业工作流的软件原语。
Hugging Face 发布 PyTorch 性能分析系列第一篇,讲解如何用 torch.profiler 分析矩阵乘法与加法。
Hugging Face 为 Reachy Mini 推出完全本地化的语音对话方案,基于其 speech-to-speech 级联管线(VAD → STT → LLM → TTS),无需云端和 API key。
Hugging Face 发布 AI Agent 术语表,重点厘清 harness 与 scaffold 的区别:scaffold 是定义模型行为的系统提示词、工具描述与上下文管理层,harness 是调用模型、处理工具调用并决定何时停止的执行层,社区常用「Agent = Model + Harness」概括。
OpenAI 介绍 ChatGPT Work 在运营场景中的实用工作流,涵盖倡议简报、战略更新、决策包和进度汇报四类任务。内容面向希望用 ChatGPT Work 落地日常运营文档与汇报流程的团队。
Hugging Face 发文解析如何在连续批处理中实现异步化,通过 CUDA stream 将 CPU 批次准备与 GPU 批次计算解耦并行,消除同步批处理中两者轮流等待的空闲间隙。
OpenAI 介绍 ChatGPT Work 在财务场景中的实用工作流,覆盖报告、差异分析、预测、月度复盘和可直接用于决策的财务交付物。
AWS 发布系列文章,解析基础模型训练与推理在 AWS 上的分层架构,涵盖加速计算、高带宽网络、分布式存储、资源编排与可观测性。
OpenAI 通过沙箱隔离、审批机制、网络策略和智能体原生遥测来安全运行 Codex,以支持编程智能体的安全合规采用。
PipelineRL 在 vLLM V0 到 V1 迁移中通过修复四项问题让 V1 与 V0 参考对齐:改用 processed_logprobs、显式设置 V1 运行时默认值、调整 inflight 权重更新路径,以及最终投影使用 fp32 lm_head。
OpenAI 本周在 Hugging Face Hub 发布开源 PII 检测器 Privacy Filter,可在单次 128k 上下文前向传播中标注八类个人信息。
推荐理由:文章用三个可运行示例拆解了把 PII 检测模型接入 Web 应用的工程分工,适合参考其前后端拆分方式。
OpenAI 分享 ChatGPT Work 的实用工作流,覆盖重复性任务、进度更新、调研、规划与团队运营等场景。内容面向日常办公,帮助用户把这些环节交给 ChatGPT Work 处理。
Hugging Face 发布 Transformers.js 浏览器扩展教程,演示如何在 Manifest V3 约束下用 Gemma 4 E2B 构建本地 AI 功能。
OpenAI 发布教程,介绍如何在 ChatGPT 中构建和使用工作区智能体,以自动化可重复的工作流、连接工具并简化团队运营。
Sentence Transformers 现已支持训练和微调多模态嵌入与重排序模型,作者以 Qwen/Qwen3-VL-Embedding-2B 微调视觉文档检索(VDR)为例演示流程。
Hugging Face 发布一个 Skill 和配套测试框架,帮助贡献者把 transformers 模型移植到 mlx-lm,使模型加入 transformers 后能较快在 MLX 上可用。
推荐理由:原文给出可复用的 Skill 与测试框架,读者能了解如何把 transformers 模型快速移植到 mlx-lm。
OpenAI 介绍如何用 ChatGPT 的搜索与深度研究功能做研究,以获取最新信息、分析来源并生成结构化洞察。
OpenAI 介绍在 ChatGPT 中处理文件的实用方法,涵盖查找信息、整理、转换文档以及将文件用于工作流。内容面向日常使用场景,帮助用户把文档接入 ChatGPT 完成信息提取与格式转换等任务。
OpenAI 介绍如何用 ChatGPT 辅助写作,完成内容的起草、修改与润色,并保持清晰的结构、语气和意图。
OpenAI 发布指南,介绍如何用 ChatGPT 开展研究:收集来源、分析信息,并生成结构化、带引用的洞察。
OpenAI 介绍如何用 ChatGPT 进行头脑风暴,把粗略想法整理成结构化、可执行的方案。内容涵盖发散创意与梳理思路两类用法。
OpenAI 发布面向财务团队的 ChatGPT 工作流指南,覆盖财务分析、报告、规划以及可直接用于决策的沟通等场景。内容侧重实操,帮助财务人员把 ChatGPT 用到日常分析与汇报中。
OpenAI 介绍如何用 ChatGPT 探索数据集、生成洞察、创建可视化,并将发现转化为可执行的决策。
OpenAI 发布 AI 负责任使用指南,围绕安全、准确性与透明度给出最佳实践,适用于 ChatGPT 等工具。
OpenAI 发布 ChatGPT 技能(skills)使用指南,教用户创建和使用技能来构建可复用工作流、自动化重复性任务,并保证输出的一致性与高质量。