OpenAI 与 Microsoft 发布联合声明
OpenAI 与 Microsoft 发布联合声明,称双方将继续在研究、工程和产品开发方面紧密合作。声明表示,这一合作建立在多年深度协作与共同成果的基础之上。
OpenAI 与 Microsoft 发布联合声明,称双方将继续在研究、工程和产品开发方面紧密合作。声明表示,这一合作建立在多年深度协作与共同成果的基础之上。
微软 unilm 团队发布 Differential Transformer V2(DIFF V2),通过增加 query 头但保持 KV 头数量不变,使解码速度与标准 Transformer 持平,且不再需要自定义注意力核。
推荐理由:微软团队给出 DIFF V2 的注意力实现与消融对比,读者可据此判断差分注意力在解码速度与训练稳定性上的取舍。
Hugging Face 的 Open ASR Leaderboard 新增多语言与长音频转录赛道,并发布覆盖 60+ 模型、18 家机构、11 个数据集的 ASR 趋势预印本。Conformer 编码器加 LLM 解码器在英语转录准确率上领先,CTC/TDT 解码器吞吐量快 10–100 倍;多语言仍以 Whisper Large v3 为强基线,长音频则闭源系统暂时领先。
Microsoft 与 OpenAI 签署新协议,强化双方的长期合作伙伴关系,扩大创新并推进负责任的 AI 进展。
OpenAI 与 Microsoft 签署新的谅解备忘录(MOU),重申双方的合作关系,以及对 AI 安全与创新的共同承诺。
微软在 Build 大会上宣布扩大与 Hugging Face 的合作,Azure AI Foundry 的 Hugging Face Collection 现已提供 10,000+ 模型,可一键部署到 Azure 安全基础设施,覆盖文本、音频和图像任务。
Hugging Face 团队探索出把已有模型微调到 1.58bit 的方法,无需从零预训练。他们用 BitNet 架构微调 Llama3 8B,其中两个模型在 10B tokens 上微调、第三个在 100B tokens 上微调,模型以 HF1BitLLM 组织发布,在 MMLU 上超过 Llama 1 7B。
推荐理由:原文给出把已有 Llama3 8B 微调到 1.58bit 的完整流程与踩坑记录,可迁移到其他模型的低比特微调。
微软 6 月发布的 Florence-2 是 0.2B 和 0.7B 规模的基础视觉语言模型,支持 captioning、目标检测、OCR 等任务,但官方模型不含 VQA 能力。
Hugging Face 与微软在 Microsoft Build 上宣布深化战略合作,将 Llama 3、Mistral 7B、Command R Plus、Qwen 1.5 110B 等热门开源大模型加入 Azure 模型库的 Hugging Face Collection,支持从 Azure AI Studio 一键部署。
Hugging Face 宣布与云安全公司 Wiz 合作提升其平台及 AI/ML 生态的安全性,Wiz 研究团队通过 pickle 在沙箱计算环境中运行任意代码,发现了平台的安全缺陷,目前所有相关漏洞均已修复。Hugging Face 已将 Wiz 用于漏洞管理和云安全态势管理(CSPM),并基于其工具实现对 Spaces 等产品检测问题的自动修复。
Hugging Face 发布面向非技术读者的 Transformers 入门指南,讲解这一开源 Python 库如何调用数千个预训练模型,并区分了 Hub 与 Spaces 的用途。教程以在 Space 中运行微软 Phi-2 LLM 为例,需租用 NVIDIA A10G GPU(每小时几美元),通过 Docker 模板部署 JupyterLab notebook 完成实操。
Hugging Face 与 Intel 合作,通过 Optimum Intel 集成 OpenVINO,将微软 2.7B 参数的 Phi-2 模型做 4-bit 权重量化,在一台搭载 Core Ultra 7 155H 的中端笔记本上实现本地推理。
Mistral 发布最新旗舰文本生成模型 Mistral Large,可通过 la Plateforme 和 Azure 使用,Azure 是其首个分发合作伙伴。
推荐理由:Mistral 同时发布旗舰模型与低延迟小模型,并首次通过 Azure 分发,读者可据此判断其产品线分层与商业路径。
OpenAI 联合 Anthropic、Google 和 Microsoft 宣布 Frontier Model Forum 新任执行董事,并设立 1000 万美元 AI 安全基金。该论坛由上述四家公司共同参与,此次更新聚焦于治理层人事与安全资金两项安排。
Hugging Face 上已有超过 13 万个支持 ONNX 的模型可借助 ONNX Runtime 加速,覆盖 BERT、GPT2、T5、Whisper、Stable-Diffusion 等 90 多种模型架构。以 whisper-tiny 为例,使用 ONNX Runtime 后单次推理平均延迟相比 PyTorch 最高提升 74.30%。
Hugging Face 与微软合作,在 Azure Machine Learning Studio 内推出 Hugging Face Hub 模型目录,收录数千个热门 Transformers 模型,用户可在托管端点上一键部署。该目录已在所有提供 Azure Machine Learning 的 Azure 区域开放公开预览,支持按任务或许可证筛选模型并部署为实时推理 API。
Hugging Face 发布教程,演示如何用 Transformers(>= 4.27.2)库完成图分类任务,目前该库中唯一的图 Transformer 模型是微软的 Graphormer。
红队测试通过构造自然语言提示词诱导 LLM 生成有害内容,从而暴露模型漏洞,与对抗攻击不同,其提示词对人类可读。GPT3 早期版本曾表现出性别歧视与针对穆斯林的偏见,微软 Tay 和 Bing 的 Sydney 聊天机器人则是缺乏充分红队评估的反面案例。红队可由人工或另一个 LM 执行,针对经 RLHF 或 SFT 对齐的模型需采用角色扮演等创造性攻击方式,未来需建立多方协作的数据集与最佳实践。
Hugging Face 宣布 SpeechT5 已集成进 Transformers 库,官方 checkpoint 发布在 Hugging Face Hub,并提供语音合成、语音转换和自动语音识别三个 Spaces 演示。
推荐理由:SpeechT5 以同一套编码器解码器架构覆盖 TTS、语音转换与 ASR,读者可据此了解多任务语音模型的复用方式。
Hugging Face 在 diffusers 中正式加入 LoRA 微调支持,可用于 Dreambooth 和完整微调,训练显存最低约 11 GB,新增权重文件约 3 MB,比原 UNet 小约一千倍。
推荐理由:Hugging Face 官方给出 LoRA 微调 Stable Diffusion 的脚本与推理流程,并说明显存和权重体积的实际变化。
Hugging Face 与微软 ONNX Runtime 团队合作,通过 Optimum 库集成 ONNX Runtime 训练后端,让热门 Hugging Face 模型训练速度提升 35% 以上。
OpenAI 与 Microsoft 宣布延长双方的合作关系,公告未披露具体条款、金额或期限。
中国科学技术大学与微软提出 VQ-Diffusion,一种在量化隐空间上进行加噪与去噪的条件扩散模型,隐空间由离散向量集合构成。该模型使用冻结的 VQ-VAE 编码图像,并以 CLIP 文本编码器加编码器-解码器 Transformer 预测去噪后的隐变量分布。相比自回归模型,VQ-Diffusion 在推理速度、误差累积和方向偏置三方面均有改善,可通过 🧨 Diffusers 几行代码调用。
Hugging Face 详解 176B 参数多语言模型 BLOOM 的训练技术,该项目由 Thomas Wolf 发起,使用 384 张 80GB A100 GPU、Megatron-DeepSpeed 框架和 350B token 的 59 语言数据集,耗时约 3.5 个月完成。
Hugging Face 展示了用 Accelerate 库调用 DeepSpeed ZeRO 加速大模型训练的方法,无需改动代码即可启用 ZeRO Stage-2。
微软提出 TAPEX,通过让 BART 学习充当神经 SQL 执行器,在合成 SQL 查询语料上完成表格预训练,无需真实数据。该方法在 WikiSQL、TabFact、SQA 和 WikiTableQuestions 四个基准上均取得 SOTA,其中 WikiSQL 准确率达 89.6%,WikiTableQuestions 达 57.5%。
Hugging Face 发布机器学习专家访谈,嘉宾 Margaret Mitchell 曾任 Google 伦理 AI 团队创始人与联合负责人,现于 Hugging Face 制定伦理 AI 研究协议。
微软和 NVIDIA 发布 Megatron-Turing NLG 530B,号称全球最大最强的生成式语言模型,但复现成本接近 1 亿美元,单台 DGX A100 服务器售价 19.9 万美元、功耗达 6.5 千瓦。
OpenAI 宣布已同意将 GPT-3 授权给 Microsoft,用于其自有产品和服务。
推荐理由:OpenAI 将 GPT-3 授权给 Microsoft 用于其自有产品和服务,读者可据此了解双方早期合作的关键一步。
微软向 OpenAI 投资 10 亿美元,支持其构建通用人工智能(AGI)。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的硬件和软件平台,联合开发新的 Azure AI 超算技术,微软将成为 OpenAI 的独家云服务商。
推荐理由:微软向 OpenAI 投资 10 亿美元并成为其独家云服务商,读者可据此了解双方早期合作框架。
OpenAI 正与 Microsoft 合作,将大部分大规模实验迁移到 Azure 上运行。