跳到正文

#OpenAI

今日 1 条
5月23日周四
5月17日周五
4月25日周四
  1. OpenAI News62

    OpenAI 发布 MuseNet 音乐生成神经网络

    OpenAI 发布 MuseNet,一个可生成 4 分钟、10 种乐器音乐作品的深度神经网络,并能融合从乡村到莫扎特再到披头士的风格。MuseNet 并未被显式编程音乐知识,而是通过学习预测数十万份 MIDI 文件中的下一个 token 来发现和声、节奏与风格规律。

    推荐理由:OpenAI 用与 GPT-2 同源的 Transformer 生成音乐,读者可了解通用序列建模向音频领域的早期延伸。

4月23日周二
  1. OpenAI News62

    OpenAI 提出 Sparse Transformer,序列建模长度提升 30 倍

    OpenAI 开发了 Sparse Transformer,一种深度神经网络,在预测文本、图像或声音序列中下一个内容的任务上创下新纪录。它通过对注意力机制做算法改进,从比此前长 30 倍的序列中提取模式。

    推荐理由:OpenAI 用稀疏注意力把序列建模长度提升 30 倍,可了解长序列建模的早期技术路线。

4月15日周一
  1. OpenAI News80

    OpenAI Five 击败 Dota 2 世界冠军 OG

    OpenAI Five 在 Finals 周末连续两局击败世界冠军 Dota 2 战队 OG,成为首个战胜电竞世界冠军的 AI。此前 OpenAI Five 与 DeepMind 的 AlphaStar 都曾在私下战胜高水平选手,但在公开职业比赛中落败,这也是 AI 首次在直播中击败电竞职业选手。

    推荐理由:OpenAI Five 在直播中连续两局击败 Dota 2 世界冠军 OG,读者可据此了解 AI 在电竞对局中的实际进展。

3月26日周二
3月21日周四
3月13日周三
3月11日周一
  1. OpenAI News62

    OpenAI 成立 capped-profit 公司 OpenAI LP

    OpenAI 宣布成立 OpenAI LP,一家 capped-profit 公司,用于快速增加在算力和人才上的投入,同时设置制衡机制以推进其使命。

    推荐理由:OpenAI 公布 capped-profit 公司结构,读者可了解其早期在算力与人才投入上的组织安排。

3月6日周三
3月4日周一
2月26日周二
2月19日周二
  1. OpenAI News40

    OpenAI:AI 安全研究需要社会科学家参与

    OpenAI 发表论文指出,长期 AI 安全研究需要社会科学家参与,才能确保 AI 对齐算法在涉及真实人类时有效。将先进 AI 系统与人类价值观对齐,需解决人类理性、情感与偏见心理学相关的诸多不确定性。OpenAI 计划招聘社会科学家全职投入这一方向,推动机器学习与社会科学的合作。

2月14日周四
  1. OpenAI News88

    OpenAI 发布大规模无监督语言模型,多项语言任务无需针对性训练

    OpenAI 训练了一个大规模无监督语言模型,能生成连贯的段落文本,在多项语言建模基准上达到当时最优表现。该模型无需针对性训练即可完成基础阅读理解、机器翻译、问答和摘要等任务。

    推荐理由:OpenAI 公布一个无监督语言模型,在多项语言任务上无需针对性训练即可完成,可据此了解早期大模型的能力边界。

12月19日周三
12月14日周五
12月6日周四
11月8日周四
11月7日周三
10月31日周三
10月22日周一
  1. OpenAI News42

    OpenAI 提出迭代放大(iterated amplification)AI 安全技术

    OpenAI 提出名为迭代放大(iterated amplification)的 AI 安全技术,通过把复杂任务拆解为更简单的子任务来指定超出人类规模的行为与目标,而非依赖标注数据或奖励函数。该构想仍处于极早期阶段,目前仅在简单的玩具算法领域完成实验,OpenAI 认为它可能成为可扩展的 AI 安全方案。

10月11日周四
10月9日周二
9月10日周一
8月23日周四
8月6日周一
  1. OpenAI News78

    OpenAI Five 基准测试结果:三局两胜击败 99.95 百分位 Dota 玩家队伍

    OpenAI Five 在三局两胜的比赛中击败了由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的 99.95 百分位 Dota 玩家队伍,其中四人曾打过职业 Dota。比赛在直播观众和 10 万名同时在线观看者面前进行。

    推荐理由:OpenAI Five 在公开直播中战胜高分段人类队伍,可了解当时 AI 在复杂实时对抗游戏中的进展。

7月30日周一
7月25日周三
7月18日周三
7月9日周一
  1. OpenAI News50

    OpenAI 推出可逆生成模型 Glow

    OpenAI 提出可逆生成模型 Glow,采用可逆 1x1 卷积,在简化架构的同时延续了可逆生成模型的思路。该模型能生成逼真的高分辨率图像,支持高效采样,并可发现用于操控数据属性的特征。OpenAI 同步开源了模型代码并上线在线可视化工具。

7月4日周三
  1. OpenAI News62

    OpenAI 从单次演示中学习 Montezuma's Revenge

    OpenAI 训练出一个智能体,仅凭单次人类演示就在 Montezuma's Revenge 上取得 74,500 的高分,超过此前所有已发表结果。其算法很简单:智能体从演示中精心挑选的状态出发进行一系列游戏,并使用 PPO 优化游戏得分来学习,PPO 也是支撑 OpenAI Five 的同一强化学习算法。

    推荐理由:OpenAI 用单次人类演示让智能体在 Montezuma's Revenge 上取得 74,500 分,可了解其基于 PPO 的简单方法。

6月25日周一
6月22日周五
6月11日周一
  1. OpenAI News82

    OpenAI 用无监督学习提升语言理解能力

    OpenAI 用 Transformer 与无监督预训练结合的可扩展、与任务无关的系统,在一系列多样化语言任务上取得当时最优结果,并对外发布了该系统。OpenAI 表示,这一结果说明监督学习方法与无监督预训练搭配效果很好,希望推动在更大、更多样的数据集上继续探索这一思路。

    推荐理由:OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果,并公开了这套与任务无关的系统。

5月30日周三
5月25日周五
5月16日周三
  1. OpenAI News85

    OpenAI 分析:2012 年以来最大 AI 训练算力每 3.4 个月翻倍

    OpenAI 发布一项分析,指出自 2012 年以来最大规模 AI 训练所用算力呈指数增长,翻倍周期为 3.4 个月,而摩尔定律的翻倍周期为 2 年。该指标自 2012 年以来增长超过 300,000 倍,若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分,若这一趋势延续,值得为远超当前能力的系统做准备。

    推荐理由:OpenAI 用 3.4 个月翻倍这一量化指标,给出 AI 训练算力增速与摩尔定律的对比参照。

5月3日周四
4月18日周三
4月5日周四