OpenAI 发布 InstructGPT,成为 API 默认语言模型
OpenAI 训练出 InstructGPT 模型,在遵循用户意图方面明显优于 GPT-3,同时更真实、毒性更低,训练过程引入人类反馈。这些模型现已作为 OpenAI API 的默认语言模型部署。
推荐理由:OpenAI 说明 InstructGPT 通过人类反馈训练,在遵循用户意图、真实性和毒性上优于 GPT-3,并已成为 API 默认模型。
OpenAI 的全部动态:GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
OpenAI 训练出 InstructGPT 模型,在遵循用户意图方面明显优于 GPT-3,同时更真实、毒性更低,训练过程引入人类反馈。这些模型现已作为 OpenAI API 的默认语言模型部署。
推荐理由:OpenAI 说明 InstructGPT 通过人类反馈训练,在遵循用户意图、真实性和毒性上优于 GPT-3,并已成为 API 默认模型。
OpenAI 在 API 中推出 embeddings 端点,用于自然语言和代码任务。该端点支持语义搜索、聚类、主题建模和分类等场景。
推荐理由:OpenAI 在 API 中新增 embeddings 端点,读者可据此了解语义搜索与代码任务的新接入方式。
OpenAI 对 GPT-3 进行微调,使其能借助基于文本的网页浏览器更准确地回答开放式问题。
推荐理由:OpenAI 用文本浏览器微调 GPT-3 提升开放问答事实准确率,可了解早期检索增强思路。
OpenAI 宣布其 API 不再需要等待名单即可使用,并称更广泛的开放得益于安全方面的进展。
推荐理由:OpenAI 取消 API 等待名单,读者可据此了解其 API 开放范围与安全进展的关系。
OpenAI 训练了一个求解小学数学应用题的模型,准确率接近微调 GPT-3 模型的两倍。该系统能解出约 90% 的题目数量,在数据集测试中得分 55%,而 9-12 岁儿童小样本在同一批题目上得分 60%。
推荐理由:OpenAI 用小学数学应用题对比自家系统与微调 GPT-3 及 9-12 岁儿童的表现,可了解当时模型推理能力的边界。
OpenAI 发布改进版 Codex,这是其将自然语言转换为代码的 AI 系统。该版本从今天起通过 API 以私测形式开放。
推荐理由:OpenAI 官方公布 Codex 改进版本并开放 API 私测,读者可了解自然语言转代码能力的接入方式。
OpenAI 发布 Triton 1.0,这是一门开源的类 Python 编程语言,让没有 CUDA 经验的研究者也能编写高效的 GPU 代码,多数情况下能达到专家水平。
推荐理由:OpenAI 开源 Triton 1.0,让没有 CUDA 经验的研究者也能写出接近专家水平的 GPU 代码。
OpenAI 表示,已有超过 300 款应用通过其 API 使用 GPT-3,提供搜索、对话、文本补全等 AI 功能。
OpenAI 在 CLIP 中发现一类神经元,无论概念以字面、符号还是概念形式呈现都会产生响应。这可能解释 CLIP 在分类出人意料的视觉概念变体时仍保持准确,也是理解 CLIP 及同类模型所学关联与偏见的重要一步。
推荐理由:OpenAI 在 CLIP 中发现对同一概念跨字面、符号与概念形式响应的神经元,为理解其分类准确性与习得偏见提供线索。
OpenAI 训练了一个名为 DALL·E 的神经网络,可根据自然语言描述生成图像,覆盖自然语言可表达的广泛概念。
推荐理由:OpenAI 官方公布 DALL·E 这一文本生成图像神经网络,可据此了解早期文生图模型的能力定位。
OpenAI 发布名为 CLIP 的神经网络,通过自然语言监督高效学习视觉概念。CLIP 只需提供待识别视觉类别的名称,即可应用于任意视觉分类基准,类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由:OpenAI 发布 CLIP,用自然语言监督学习视觉概念,可零样本迁移到任意视觉分类基准。
OpenAI 宣布已同意将 GPT-3 授权给 Microsoft,用于其自有产品和服务。
推荐理由:OpenAI 将 GPT-3 授权给 Microsoft 用于其自有产品和服务,读者可据此了解双方早期合作的关键一步。
OpenAI 发现,正如在语言上训练的大型 Transformer 模型能生成连贯文本,同一模型在像素序列上训练后也能生成连贯的图像补全和样本。通过建立样本质量与图像分类准确率之间的相关性,研究显示其最佳生成模型在无监督设置下所含特征可与顶级卷积网络竞争。
推荐理由:OpenAI 用同一 Transformer 架构处理像素序列,并给出生成质量与分类精度的关联证据。
OpenAI 发布 API,用于访问其开发的新 AI 模型。
推荐理由:OpenAI 开放 API 供开发者调用其新模型,是了解其模型对外提供方式起点的简短记录。
OpenAI 发布论文《Language models are few-shot learners》,探讨语言模型的少样本学习能力。该页面正文抓取失败,仅标题可用。
OpenAI 发布分析称,自 2012 年以来,在 ImageNet 分类上训练神经网络达到同等性能所需的算力每 16 个月减少一半。相比 2012 年,训练到 AlexNet 水平所需算力减少 44 倍,而同期摩尔定律只带来 11 倍的成本改善。OpenAI 认为,在近期投入较高的 AI 任务上,算法进步带来的收益超过传统硬件效率提升。
推荐理由:OpenAI 用 ImageNet 训练算力数据量化算法进步速度,可与摩尔定律对比理解 AI 效率来源。
OpenAI 推出 Jukebox,一个能生成音乐的神经网络,可输出多种流派和艺术家风格的原始音频,并包含初步的歌唱。OpenAI 同时公开了模型权重和代码,以及一个用于试听生成样本的工具。
推荐理由:OpenAI 公开 Jukebox 的模型权重与代码,读者可了解这套生成原始音频的神经网络能产出哪些风格的音乐。
OpenAI 发布关于 Dota 2 大规模深度强化学习的研究,原文正文未能抓取,仅标题可用。
OpenAI 发布 GPT-2 分阶段发布的最后一个版本,即 1.5B 参数的最大版本,同时开放代码和模型权重,以便检测 GPT-2 模型的输出。OpenAI 表示,尽管自 8 月以来已有更大的语言模型发布,仍按原定分阶段发布计划推进,为社区提供一个完整分阶段发布流程的测试案例。
推荐理由:OpenAI 公布 GPT-2 分阶段发布的收尾版本,并给出代码与权重,便于理解大模型负责任发布流程。
OpenAI 训练了一对神经网络,让类人机械手解开魔方。神经网络完全在仿真中训练,使用与 OpenAI Five 相同的强化学习代码,并搭配名为 Automatic Domain Randomization(ADR)的新技术。系统能应对训练中从未见过的情况,例如被毛绒长颈鹿戳碰,说明强化学习不只适用于虚拟任务,也能解决需要极高灵巧度的物理世界问题。
推荐理由:OpenAI 用仿真训练加 ADR 让机械手解魔方,可了解强化学习从虚拟任务走向物理操作的关键思路。