OpenAI 发布 GPT-3 与 Codex 新版本，支持编辑和插入内容
OpenAI 发布新版本 GPT-3 和 Codex，可在已有文本中编辑或插入内容，而不再只是续写现有文本。
推荐理由：OpenAI 为 GPT-3 和 Codex 增加编辑与插入能力，读者可了解模型从续写扩展到改写已有文本的变化。
#模型发布
#模型发布
今日 3 条OpenAI News精选AI 评分6262
OpenAI News精选AI 评分8282 OpenAI 发布 InstructGPT，成为 API 默认语言模型
OpenAI 训练出 InstructGPT 模型，在遵循用户意图方面明显优于 GPT-3，同时更真实、毒性更低，训练过程引入人类反馈。这些模型现已作为 OpenAI API 的默认语言模型部署。
推荐理由：OpenAI 说明 InstructGPT 通过人类反馈训练，在遵循用户意图、真实性和毒性上优于 GPT-3，并已成为 API 默认模型。
OpenAI News精选AI 评分8585 OpenAI 发布 DALL·E：从文本生成图像
OpenAI 训练了一个名为 DALL·E 的神经网络，可根据自然语言描述生成图像，覆盖自然语言可表达的广泛概念。
推荐理由：OpenAI 官方公布 DALL·E 这一文本生成图像神经网络，可据此了解早期文生图模型的能力定位。
OpenAI News精选AI 评分8080 OpenAI 发布 CLIP：用自然语言连接文本与图像
OpenAI 发布名为 CLIP 的神经网络，通过自然语言监督高效学习视觉概念。CLIP 只需提供待识别视觉类别的名称，即可应用于任意视觉分类基准，类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由：OpenAI 发布 CLIP，用自然语言监督学习视觉概念，可零样本迁移到任意视觉分类基准。
OpenAI News精选AI 评分7878 OpenAI 发布生成音乐的神经网络 Jukebox
OpenAI 推出 Jukebox，一个能生成音乐的神经网络，可输出多种流派和艺术家风格的原始音频，并包含初步的歌唱。OpenAI 同时公开了模型权重和代码，以及一个用于试听生成样本的工具。
推荐理由：OpenAI 公开 Jukebox 的模型权重与代码，读者可了解这套生成原始音频的神经网络能产出哪些风格的音乐。
OpenAI News精选AI 评分8585 OpenAI 发布 GPT-2 1.5B 版本
OpenAI 发布 GPT-2 分阶段发布的最后一个版本，即 1.5B 参数的最大版本，同时开放代码和模型权重，以便检测 GPT-2 模型的输出。OpenAI 表示，尽管自 8 月以来已有更大的语言模型发布，仍按原定分阶段发布计划推进，为社区提供一个完整分阶段发布流程的测试案例。
推荐理由：OpenAI 公布 GPT-2 分阶段发布的收尾版本，并给出代码与权重，便于理解大模型负责任发布流程。
OpenAI News精选AI 评分8282 OpenAI 发布 774M 参数 GPT-2 模型
OpenAI 发布 774M 参数的 GPT-2 语言模型，此前已先后发布 124M 小模型和 355M 中模型。OpenAI 同时发布一份开源法律协议，方便机构之间建立模型共享合作，并发布一份技术报告，介绍与更广泛 AI 研究社区协调发布规范的经验。
推荐理由：OpenAI 公布 GPT-2 分阶段发布的时间线与参数规模，并给出模型共享的法律协议与技术报告。
OpenAI News精选AI 评分6262 OpenAI 发布 MuseNet 音乐生成神经网络
OpenAI 发布 MuseNet，一个可生成 4 分钟、10 种乐器音乐作品的深度神经网络，并能融合从乡村到莫扎特再到披头士的风格。MuseNet 并未被显式编程音乐知识，而是通过学习预测数十万份 MIDI 文件中的下一个 token 来发现和声、节奏与风格规律。
推荐理由：OpenAI 用与 GPT-2 同源的 Transformer 生成音乐，读者可了解通用序列建模向音频领域的早期延伸。
OpenAI News精选AI 评分8888 OpenAI 发布大规模无监督语言模型，多项语言任务无需针对性训练
OpenAI 训练了一个大规模无监督语言模型，能生成连贯的段落文本，在多项语言建模基准上达到当时最优表现。该模型无需针对性训练即可完成基础阅读理解、机器翻译、问答和摘要等任务。
推荐理由：OpenAI 公布一个无监督语言模型，在多项语言任务上无需针对性训练即可完成，可据此了解早期大模型的能力边界。
OpenAI News精选AI 评分7070 OpenAI 发布强化学习算法 PPO
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization（PPO），其表现与当时最先进方法相当或更好，同时实现和调参都简单得多。PPO 因易用且性能良好，已成为 OpenAI 的默认强化学习算法。
推荐理由：OpenAI 公开 PPO 算法并说明其比当时主流方法更易实现和调参，可了解该算法成为其默认强化学习方案的原因。