NVIDIA 谈 AI 安全:如何在智能体栈的每一层解决这一工程问题
NVIDIA 提出 AI 安全是工程问题,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体之外强制执行策略并提供沙箱执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能。
NVIDIA 提出 AI 安全是工程问题,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体之外强制执行策略并提供沙箱执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能。
NVIDIA 在纽约气候周上介绍了五家用 AI 推进清洁能源的公司。ThinkLabs AI 用数字孪生和智能体把南加州爱迪生评估电网并网申请的时间从 30-45 天缩短到 2 分钟。
Hugging Face 发布 tokenizers v1,输出 token ID 与 v0.23 完全一致,但速度常达 v0.23 的数十倍。v1 将单 crate 拆为 workspace,引入无分配模型、基于 SIMD 的 bitcannon 分词、合并循环重写、线程本地词缓存和原生并行,并保留 BPE、WordPiece、Unigram 全部支持。
Google Research 发布 MilleMiglia,一个用 C++ 编写的实例生成器,用于为中段物流配送问题生成真实且保护隐私的基准数据,源码与文档已在 GitHub 公开。
Pawprint Studio 的 Aniimo 本周随发售同步登陆 GeForce NOW,这是一款免费开放世界捉宠 RPG,玩家可用 Aniipods 捕捉生物并 Twine 变身,无需等待 45GB 下载。
GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行生产级 Rust,AI 智能体写了大部分代码,分布在 128 个 PR 中增量合入 main,而非一次性切换。
推荐理由:原文给出把大型 TypeScript 运行时迁到 Rust 的完整工程方法,包括分层、互操作与多智能体协作的取舍。
NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览结果,在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍,在 DeepSeek-R1 上最高达 2.5 倍。
推荐理由:MLPerf Inference v6.1 结果给出 Vera Rubin NVL72 与 GB300 NVL72 的吞吐、扩展效率和软件优化数据,可用于比较推理基础设施的长期经济性。
OpenAI 介绍如何用 ChatGPT Work 和 Codex 的分析功能,帮助团队了解 AI 使用量与支出、识别培训需求,并把 AI 采用情况与业务成果关联起来。
OpenAI 将 Habitat 从 Python 库演进为全球分布式存储平台,支撑 10 亿 ChatGPT 用户、每秒 2200 万次请求。该平台用于应对 ChatGPT 在线存储的规模化需求。
Mistral 与 Cloudera 宣布合作,将 Mistral 模型集成进 Cloudera 混合数据平台,企业可在私有云、公有云、本地及完全气隙环境中部署推理并保持完全控制。企业还能在受控环境中用专有数据训练定制模型,同时保有数据和模型所有权。Cloudera 平台承载 30 exabytes 客户管理数据,双方称此举面向对主权 AI 日益增长的需求。
TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM,rank-1 adapter 仅几 MB,可经 Storage Bucket 挂载在各 Job 间传递,无需 NCCL。
GitHub 推出研究预览版 Project HydraFusion,在 GitHub Copilot CLI 中通过运行时编排多个提供商的模型,自动选择 Single、Cascade、Critique 三种执行模式来完成任务。
推荐理由:GitHub 官方给出 HydraFusion 的三种编排模式与三项基准的成本质量对比,可据此判断多模型编排在编码任务上的取舍。
澳大利亚律所 Gilbert + Tobin 借助 CEO 主导的投入、严格治理机制与人工问责,在全所范围规模化部署 ChatGPT Enterprise 和 Codex。
Hugging Face 发布 @huggingface/kernels,一个从 Hugging Face Hub 加载并运行 WebGPU kernel 的 JavaScript 库,同时上线 207 个 Apache-2.0 许可的 kernel,每个都以独立仓库形式发布,包含 manifest、正确性用例、基准用例和 WGSL 着色器模板。
推荐理由:Hugging Face 发布 207 个 WebGPU kernel 及加载库,并给出与 ORT WebGPU 的逐算子对比数据,可据此判断浏览器端推理的优化空间。
Multiverse Computing 发布论文提出 Quantization-Aware Healing(QAH),直接从未压缩的原始模型蒸馏,而非从恢复后的 bfloat16 checkpoint 蒸馏。
推荐理由:论文给出压缩后 4-bit 模型反超自身 bfloat16 版本的基准对比,以及 QAH 与 QAT 的训练稳定性差异。
OpenAI CFO Sarah Friar 阐述了芯片、算力、模型与产品各环节进步如何叠加,从而以更大规模和更低成本交付更有用的智能。
OpenAI 公布自研推理芯片 Jalapeño 的首批结果,称其在 AI 推理上具备行业领先的速度与能效。该芯片面向现代模型提供更高吞吐和更低延迟,同时更省电。
推荐理由:OpenAI 自研推理芯片 Jalapeño 的首批结果,可用于观察其推理速度与能效的定位。
OpenAI 为 ChatGPT Work 和 Codex 推出 Admin 插件,可分析工作区用量、管理成员与权限、调整限额并处理管理请求。
Mistral 与 HUMAIN 宣布战略合作,覆盖 AI 基础设施、先进模型开发和 AI 解决方案部署,合作规模达数亿欧元。双方将优先聚焦网络安全与语音领域,并计划开发阿拉伯语表现强劲的前沿模型,Mistral 还将探索使用 HUMAIN 数据中心基础设施。双方计划在沙特制定联合市场策略,面向受监管行业提供 AI 解决方案。
Papers with Code 采用混合搜索架构,用 PostgreSQL 全文检索加 pgvector 语义召回,并通过 RRF 算法融合两路结果。
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下提升解码速度,GPU 上吞吐最高提升 3.18 倍,端侧最高 2.87 倍。
推荐理由:Liquid AI 给出三个 LFM2.5 模型的 DSpark 草稿模型与实测加速数据,读者可据此判断端侧推理的可用性。
Asana 借助 OpenAI Codex 在两周内替换了老旧的测试系统,模型与基础设施成本约 1.2 万美元。该迁移原本预计耗时数年。
NVIDIA 团队使用 ChatGPT Work 减少手动任务、连接快速变化的信号,并在全球范围内规模化推广成功的工作流。
Hugging Face 构建了约束感知的 GPU 分配器,在七个基准场景中与 FIFO 调度器对比,相同硬件和负载下 GPU 利用率最高提升 33 个百分点,优先级加权产出在所有场景中均上升,最高提升 105%。在五个真实争用场景中,利用率从 52–85% 提升至 72–88%,优先级加权价值提升 24.6% 至 105.1%,平均 52%。
OpenAI 预览新的 API 服务档 Ultrafast,运行 GPT-5.6 Sol 时最高提速 14 倍,输出速度可达每秒 750 个 token。该服务由 Cerebras 提供算力支持。
推荐理由:OpenAI 公布 Ultrafast 服务档的速度指标与底层算力合作方,可据此判断高速推理的可用形态。
Hugging Face 的 ALTK-Evolve 与 ACE 同属无需更新权重、无需人工标注的智能体记忆方案,但 ALTK-Evolve 把记忆投递当作可调旋钮,按任务检索少量高支持度 guideline,而非每步注入完整 playbook。
Mistral 宣布 Mistral Regional Endpoints 正式可用,客户可选择推理在欧洲或美国运行,同时 Mistral Priority Tier 进入公开预览,提供自定义速率限制和带 SLA 的可用性承诺。
推荐理由:Mistral 把区域推理端点、优先级服务和第三方开源模型接入放在同一套基础设施上,读者可据此判断欧洲主权 AI 的落地路径。
OpenAI 与 AWS 合作,通过 Amazon Bedrock 提供 Daybreak 网络安全能力,以支持企业安全相关工作流。
NVIDIA 发布 Magpie TTS Multilingual,一个 364M 参数开放权重模型,支持 12 种语言,新增现代标准阿拉伯语、韩语和巴西葡萄牙语,并通过更新训练数据提升了多种既有语言的质量。
推荐理由:原文给出 364M 开源 TTS 的多语言扩展与各 GPU 上的 TTFA 实测数据,便于评估自建语音链路的延迟预算。
Model ML 借助 GPT-5.6 Sol,将金融工作从调研分析一路推进到可编辑、可追溯的 PowerPoint 演示文稿和 Excel 工作簿。
Hugging Face 最新论文提出两项系统改动降低 LLM 知识蒸馏成本:离线缓存教师模型每位置的 top-100 logits,使教师无需与学生同时驻留显存;融合分块 KL 损失避免生成完整的词表×序列长度矩阵。
Baseten 正式加入 Hugging Face Hub 的 Inference Providers 生态,首批支持对话与文本生成任务,可调用 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开放权重模型。
微软研究院发布开源框架 Orchard,核心是 Kubernetes 环境服务 Orchard Env,可复用于软件工程、网页导航和个人助理三类智能体任务,并支持直接在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 中训练。
推荐理由:微软研究院开源 Orchard 框架,用约 3B 激活参数在 SWE-bench Verified 上达到 69.7%,读者可据此判断小模型智能体的训练成本与可行性。
OpenAI 用六个月搭建了 GPT-Live 的实时语音系统,通过无轮次语音模型与低延迟架构实现与 AI 的连续语音交互,让对话更快、更自然。
Circles 使用 OpenAI API 和 Codex 打造 AI 原生电信体验,使 ARPU 提升 22%、用户流失率降低 9%,并提升开发效率。
Hugging Face 博客指出,AI 的下一个真正约束是 GPU 利用率而非智能水平。GPU 按日历小时计费,却只按计算小时产出,企业自购 GPU 后问题从"能否买到"变成"能否让它们保持忙碌"。文章以航空业停场飞机作类比,强调集群即使满载也可能浪费大部分潜力,因为 GPU 全天运行而需求并不持续。
OpenAI 宣布下调 GPT-5.6 在 Luna 和 Terra 上的价格,并介绍其更高效的模型如何帮助企业规模化部署 AI 工作流。
推荐理由:OpenAI 下调 GPT-5.6 在 Luna 与 Terra 上的价格,读者可据此评估企业级 AI 工作流的部署成本变化。
Berkeley AI Research 与 IBM Research 将 K-Search 进化式内核搜索框架扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库适配 Apple Silicon。
推荐理由:读者可看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,以及翻译层对性能差距的具体贡献。
OpenAI 宣布在佐治亚州 Effingham County 启动 Project Camellia,承诺负责任能源、社区投资与就业,并提供 Codex 使用渠道。
在 AppWorld Test Challenge 的 417 个任务上,同一 CodeAct 智能体下 Claude Sonnet 4.6 总成本 79 美元(0.19 美元/任务),GPT-4.1 却要 155 美元(0.37 美元/任务),原因是缓存命中率让 Sonnet 的实际输入成本大幅下降。