PyTorch 性能剖析(二):从 nn.Linear 到融合 MLP
Hugging Face 博客发布《Profiling in PyTorch》系列第二篇,用 nn.Linear 替换手写的 matmul-add,并堆叠三层加激活函数构成 MLP,在 NVIDIA A100-SXM4-80GB 上分析 profiler trace。
Hugging Face 博客发布《Profiling in PyTorch》系列第二篇,用 nn.Linear 替换手写的 matmul-add,并堆叠三层加激活函数构成 MLP,在 NVIDIA A100-SXM4-80GB 上分析 profiler trace。
作者让编码智能体通过调用两个 Hugging Face Space 搭建了一个展示巴黎地标的 3D Gaussian splat 网站,全程未手动使用图像生成或 3D 重建工具。
推荐理由:作者用一次真实构建展示了 agents.md 如何让智能体串联两个 Space 完成图像到 3D 的流水线,可迁移到其他多媒体组合。
Hugging Face 发布教程,介绍如何让 GitHub Actions 把 CI 任务调度到 Hugging Face Jobs 上运行,只需把 runs-on 从 ubuntu-latest 改成 hf-jobs-cpu-upgrade 或 hf-jobs-t4-small 等标签。
推荐理由:原文给出把 GitHub Actions 任务改跑在 Hugging Face Jobs 上的完整步骤与 Trackio 实测数据,可迁移到需要 GPU 的 CI 场景。
DharmaOCR 团队将 Direct Preference Optimization(DPO)用于结构化 OCR 任务,把正确转录设为 chosen、重复退化循环设为 rejected,在 SFT 之后追加第二阶段训练,使所有测试模型家族的文本退化率平均下降 59.4%,最佳达 87.6%(Nanonets-OCR2–3B 从 1.61% 降至 0.20%)。
Hugging Face 博客指出,企业级 AI 规模化落地的关键不在 LLM 本身,而在智能体逻辑——即运行于智能体层、能引导 LLM 聚焦企业工作流的软件原语。
Hugging Face 发布 PyTorch 性能分析系列第一篇,讲解如何用 torch.profiler 分析矩阵乘法与加法。
Hugging Face 为 Reachy Mini 推出完全本地化的语音对话方案,基于其 speech-to-speech 级联管线(VAD → STT → LLM → TTS),无需云端和 API key。
Hugging Face 发布 AI Agent 术语表,重点厘清 harness 与 scaffold 的区别:scaffold 是定义模型行为的系统提示词、工具描述与上下文管理层,harness 是调用模型、处理工具调用并决定何时停止的执行层,社区常用「Agent = Model + Harness」概括。
OpenAI 介绍 ChatGPT Work 在运营场景中的实用工作流,涵盖倡议简报、战略更新、决策包和进度汇报四类任务。内容面向希望用 ChatGPT Work 落地日常运营文档与汇报流程的团队。
Hugging Face 发文解析如何在连续批处理中实现异步化,通过 CUDA stream 将 CPU 批次准备与 GPU 批次计算解耦并行,消除同步批处理中两者轮流等待的空闲间隙。
OpenAI 介绍 ChatGPT Work 在财务场景中的实用工作流,覆盖报告、差异分析、预测、月度复盘和可直接用于决策的财务交付物。
AWS 发布系列文章,解析基础模型训练与推理在 AWS 上的分层架构,涵盖加速计算、高带宽网络、分布式存储、资源编排与可观测性。
OpenAI 通过沙箱隔离、审批机制、网络策略和智能体原生遥测来安全运行 Codex,以支持编程智能体的安全合规采用。
PipelineRL 在 vLLM V0 到 V1 迁移中通过修复四项问题让 V1 与 V0 参考对齐:改用 processed_logprobs、显式设置 V1 运行时默认值、调整 inflight 权重更新路径,以及最终投影使用 fp32 lm_head。
OpenAI 本周在 Hugging Face Hub 发布开源 PII 检测器 Privacy Filter,可在单次 128k 上下文前向传播中标注八类个人信息。
推荐理由:文章用三个可运行示例拆解了把 PII 检测模型接入 Web 应用的工程分工,适合参考其前后端拆分方式。
OpenAI 分享 ChatGPT Work 的实用工作流,覆盖重复性任务、进度更新、调研、规划与团队运营等场景。内容面向日常办公,帮助用户把这些环节交给 ChatGPT Work 处理。
Hugging Face 发布 Transformers.js 浏览器扩展教程,演示如何在 Manifest V3 约束下用 Gemma 4 E2B 构建本地 AI 功能。
OpenAI 发布教程,介绍如何在 ChatGPT 中构建和使用工作区智能体,以自动化可重复的工作流、连接工具并简化团队运营。
Sentence Transformers 现已支持训练和微调多模态嵌入与重排序模型,作者以 Qwen/Qwen3-VL-Embedding-2B 微调视觉文档检索(VDR)为例演示流程。
Hugging Face 发布一个 Skill 和配套测试框架,帮助贡献者把 transformers 模型移植到 mlx-lm,使模型加入 transformers 后能较快在 MLX 上可用。
推荐理由:原文给出可复用的 Skill 与测试框架,读者能了解如何把 transformers 模型快速移植到 mlx-lm。
OpenAI 介绍如何用 ChatGPT 的搜索与深度研究功能做研究,以获取最新信息、分析来源并生成结构化洞察。
OpenAI 介绍在 ChatGPT 中处理文件的实用方法,涵盖查找信息、整理、转换文档以及将文件用于工作流。内容面向日常使用场景,帮助用户把文档接入 ChatGPT 完成信息提取与格式转换等任务。
OpenAI 介绍如何用 ChatGPT 辅助写作,完成内容的起草、修改与润色,并保持清晰的结构、语气和意图。
OpenAI 发布指南,介绍如何用 ChatGPT 开展研究:收集来源、分析信息,并生成结构化、带引用的洞察。
OpenAI 介绍如何用 ChatGPT 进行头脑风暴,把粗略想法整理成结构化、可执行的方案。内容涵盖发散创意与梳理思路两类用法。
OpenAI 发布面向财务团队的 ChatGPT 工作流指南,覆盖财务分析、报告、规划以及可直接用于决策的沟通等场景。内容侧重实操,帮助财务人员把 ChatGPT 用到日常分析与汇报中。
OpenAI 介绍如何用 ChatGPT 探索数据集、生成洞察、创建可视化,并将发现转化为可执行的决策。
OpenAI 发布 AI 负责任使用指南,围绕安全、准确性与透明度给出最佳实践,适用于 ChatGPT 等工具。
OpenAI 发布 ChatGPT 技能(skills)使用指南,教用户创建和使用技能来构建可复用工作流、自动化重复性任务,并保证输出的一致性与高质量。
OpenAI 发布面向初学者的 AI 基础知识指南,解释 AI 是什么、如何运作,以及 ChatGPT 这类工具如何使用大语言模型。内容为入门级科普,未涉及具体模型版本、参数或性能数据。
OpenAI 发布提示词基础指南,讲解如何写出清晰有效的提示词,以便从 ChatGPT 获得更好、更有用的回答。
Anthropic 正在限制 Pro/Max 订阅者在开放智能体平台中使用 Claude 模型,Hugging Face 给出两条把 OpenClaw、Pi 或 Open Code 智能体迁到开源模型的路径。
推荐理由:给出托管与本地两条迁移路径和具体命令,读者可据此把被限制的智能体切到开源模型。
NVIDIA 发布教程,介绍用单张 GPU 在一天内将通用嵌入模型微调为领域专用模型,无需人工标注。流程基于 NeMo Data Designer 生成合成问答数据、挖掘难负样本并微调 Llama-Nemotron-Embed-1B-v2,在 NVIDIA 公开文档数据上 Recall@10 和 NDCG@10 提升超过 10%。
推荐理由:NVIDIA 给出从合成数据到部署的完整嵌入模型微调流程,并附 Atlassian 在 Jira 数据上的实测提升。
Mistral 基于开源编码助手 Vibe 搭建了一个自动生成和改进 RSpec 测试的智能体,可读取 Rails 源文件、生成测试、按风格规则与覆盖率目标校验,并在 CI/CD 中无需人工干预运行。
推荐理由:Mistral 公开了自动写 RSpec 测试的智能体完整搭建方法,包含 AGENTS.md、Skills 与自定义工具的可迁移细节。
Hugging Face 发布教程,介绍 Snowflake AI Research 的 Ulysses 序列并行(ALST 协议的一部分)如何通过注意力头切分把长序列训练分散到多张 GPU,并已集成到 Accelerate、Transformers Trainer 和 TRL 的 SFTTrainer。
推荐理由:文章给出 Ulysses 序列并行在 Hugging Face 各组件中的接入方式与实测数据,可据此判断长上下文训练的显存与吞吐取舍。
Hugging Face 博客发布 NXP 的嵌入式机器人 AI 实践指南,覆盖数据集录制、VLA 策略微调(ACT 与 SmolVLA)及端侧优化。NXP 以"把茶包放进杯子"任务录制 120 个 episode,将机械臂工作空间划分为 11 个 10×10 cm 聚类,并推荐使用夹爪相机提升精细操作成功率。指南还介绍了 NXP i.MX 95 SoC 经优化后实现的实时性能。
Photoroom 在 Hugging Face 博客发布 PRX 系列第三篇,用 32 张 H200、约 1500 美元预算在 24 小时内训练出一个文生图扩散模型。
推荐理由:Photoroom 公开了 24 小时训练文生图模型的完整配方与代码,读者可据此复现并调整各组件。
Hugging Face 发文介绍 transformers 库为 Mixture of Experts(MoE)模型所做的工程改造,涵盖权重加载重构、专家后端与专家并行三部分。
推荐理由:Hugging Face 官方拆解 transformers 为 MoE 重构的加载、后端与并行方案,并给出 v4 与 v5 的实测对比。
Hugging Face 发布教程,介绍如何通过 Claude Code、Codex 等编码智能体,用 Unsloth 和 Hugging Face Jobs 微调 LiquidAI/LFM2.5-1.2B-Instruct。
推荐理由:原文给出用编码智能体提交 Unsloth 微调任务的完整命令与技能安装方式,可据此复现小模型微调流程。
Hugging Face 构建了一个 Agent 技能,教编码智能体编写生产级 CUDA kernel,并用 Claude 和 Codex 在 diffusers 的 LTX-Video 与 transformers 的 Qwen3-8B 两个真实目标上端到端生成了可用的 kernel、PyTorch 绑定和基准脚本。
推荐理由:Hugging Face 把 CUDA kernel 开发经验封装成 Agent 技能,并给出两个真实模型的端到端基准,读者可据此判断这类技能的实际收益。