OpenAI Scholars 2019 申请开放
OpenAI 开放第二届 OpenAI Scholars 申请,面向弱势群体提供 6–10 个津贴与导师指导名额,全职学习深度学习 3 个月并开源一个项目。
OpenAI 开放第二届 OpenAI Scholars 申请,面向弱势群体提供 6–10 个津贴与导师指导名额,全职学习深度学习 3 个月并开源一个项目。
OpenAI 开始接受 2019 年 Fellows 与 Interns 申请,其中 Fellows 为冬季项目、Interns 为夏季项目。
OpenAI Scholars 2018 首批学员已完成该项目并提交结业项目。这是 OpenAI Scholars 的首届学员班。
OpenAI Five 本周在温哥华 The International 上对阵顶尖 Dota 2 选手,两局均告负,但在两局的前 20–35 分钟内都保持了较高的获胜机会。
OpenAI Five 在三局两胜的比赛中击败了由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的 99.95 百分位 Dota 玩家队伍,其中四人曾打过职业 Dota。比赛在直播观众和 10 万名同时在线观看者面前进行。
推荐理由:OpenAI Five 在公开直播中战胜高分段人类队伍,可了解当时 AI 在复杂实时对抗游戏中的进展。
OpenAI 训练出一只类人机械手,能够以空前的灵巧度操控实物。材料未披露具体方法、训练环境与评测数据。
推荐理由:OpenAI 用仿真环境训练类人机械手完成实物操作,可了解早期具身智能的迁移思路。
OpenAI 公布 2018 年首届 OpenAI Scholars 名单,该项目正帮助一批经验丰富的软件开发者转型为机器学习从业者。学员进展已开放对外关注。
OpenAI Five Benchmark 比赛已结束。OpenAI 公布了这场 Benchmark 对局的结果。
OpenAI 提出可逆生成模型 Glow,采用可逆 1x1 卷积,在简化架构的同时延续了可逆生成模型的思路。该模型能生成逼真的高分辨率图像,支持高效采样,并可发现用于操控数据属性的特征。OpenAI 同步开源了模型代码并上线在线可视化工具。
OpenAI 训练出一个智能体,仅凭单次人类演示就在 Montezuma's Revenge 上取得 74,500 的高分,超过此前所有已发表结果。其算法很简单:智能体从演示中精心挑选的状态出发进行一系列游戏,并使用 PPO 优化游戏得分来学习,PPO 也是支撑 OpenAI Five 的同一强化学习算法。
推荐理由:OpenAI 用单次人类演示让智能体在 Montezuma's Revenge 上取得 74,500 分,可了解其基于 PPO 的简单方法。
OpenAI 宣布由五个神经网络组成的 OpenAI Five 已开始击败 Dota 2 业余人类战队。
OpenAI 首届 Retro Contest 已完成,该比赛旨在探索能从前序经验中泛化的算法。比赛结果已公布。
OpenAI 用 Transformer 与无监督预训练结合的可扩展、与任务无关的系统,在一系列多样化语言任务上取得当时最优结果,并对外发布了该系统。OpenAI 表示,这一结果说明监督学习方法与无监督预训练搭配效果很好,希望推动在更大、更多样的数据集上继续探索这一思路。
推荐理由:OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果,并公开了这套与任务无关的系统。
OpenAI 开放 Fellows 2018 秋季班申请,该项目提供为期 6 个月、带薪酬的 AI 研究学徒岗位。
OpenAI 发布强化学习游戏平台 Gym Retro 完整版,公开游戏数量从约 70 款 Atari 游戏和 30 款 Sega 游戏增加到 1000 多款,覆盖多种模拟器。OpenAI 同时发布了用于向该平台添加新游戏的工具。
OpenAI 发布一项分析,指出自 2012 年以来最大规模 AI 训练所用算力呈指数增长,翻倍周期为 3.4 个月,而摩尔定律的翻倍周期为 2 年。该指标自 2012 年以来增长超过 300,000 倍,若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分,若这一趋势延续,值得为远超当前能力的系统做准备。
推荐理由:OpenAI 用 3.4 个月翻倍这一量化指标,给出 AI 训练算力增速与摩尔定律的对比参照。
OpenAI 提出一种 AI 安全技术,训练智能体就话题相互辩论,由人类评判胜负。
OpenAI 发布实验性元学习方法 Evolved Policy Gradients(EPG),通过进化学习智能体的损失函数,使其能在新任务上快速训练。经 EPG 训练的智能体在测试时可完成训练范围之外的基础任务,例如学会导航到房间中与训练时位置相反一侧的物体。
OpenAI 推出 Retro Contest 迁移学习竞赛,用于衡量强化学习算法从既往经验中泛化的能力。
OpenAI 于 3 月 3 日举办了首届黑客松,共有 100 名人工智能社区成员参与。
OpenAI 开发出可扩展的元学习算法 Reptile,通过反复采样任务、执行随机梯度下降并将初始参数朝该任务学到的最终参数更新。Reptile 是 Shortest Descent 算法在元学习场景的应用,数学上与一阶 MAML 相似,只需黑盒访问 SGD 或 Adam 等优化器,计算效率与性能相近。
OpenAI 推出 Scholars 项目,为来自 underrepresented 群体的个人提供 6–10 份津贴与导师指导,支持其全职学习深度学习 3 个月并开源一个项目。
OpenAI 发布八个模拟机器人环境和 Hindsight Experience Replay 的 Baselines 实现,均基于过去一年的研究开发。这些环境已用于训练可迁移至实体机器人的模型,同时 OpenAI 还发布了一系列机器人研究课题请求。
OpenAI 将于 3 月 3 日(周六)在其旧金山 Mission District 办公室举办演讲与 hackathon 活动。
OpenAI 宣布迎来新的捐赠者加入支持者行列。
OpenAI 与 Future of Humanity Institute、Centre for the Study of Existential Risk、Center for a New American Security。
推荐理由:OpenAI 联合多家机构用近一年时间梳理 AI 被恶意滥用的可能路径与防范思路,可作为早期 AI 安全治理讨论的参照。
OpenAI 设计了一种让 AI 互相教学的方法,所选取的示例同时也能被人类理解。该方法会自动挑选最具信息量的示例来教授某个概念,例如用最适合描述"狗"这一概念的图像,实验显示它对 AI 教学有效。
OpenAI 构建了一套实体消歧系统,通过神经网络判断一个词是否属于约 100 个自动发现的“类型”(非互斥类别),从而自动确定该词指代的是哪个对象。
OpenAI 发布 Requests for Research 2.0,公开了 7 道在其研究过程中出现的未解难题。该系列此前已有第一版,此次为新一轮问题集合。
OpenAI 发布面向块稀疏权重神经网络的高度优化 GPU 内核,按所选稀疏度可比 cuBLAS 或 cuSPARSE 快数个数量级。该内核已用于文本情感分析以及文本和图像生成建模,并取得 SOTA 结果。
OpenAI 开发出一种分层强化学习算法,能学习对解决多类任务有用的高层动作,从而快速求解需要数千个时间步的任务。在导航问题集上,该算法发现了向不同方向行走和爬行的高层动作,使智能体能够快速掌握新的导航任务。
OpenAI 最新机器人技术让完全在仿真中训练的控制器部署到实体机器人后,能在完成简单任务时应对环境中的意外变化,即从以往的开环系统转向闭环系统。
OpenAI 发现自博弈能让模拟 AI 在未专门设计环境的情况下,自行学会擒抱、闪避、假动作、踢球、接球和扑球等身体技能。自博弈还能让环境难度始终与 AI 水平匹配,便于持续提升。结合 Dota 2 的自博弈结果,OpenAI 表示对自博弈将成为未来强大 AI 系统的核心部分更有信心。
推荐理由:OpenAI 用自博弈让模拟智能体自发学会擒抱、假动作等身体技能,可与 Dota 2 结果对照理解自博弈的训练价值。
OpenAI 展示在模拟机器人摔跤任务中,元学习智能体能够快速击败更强的非元学习智能体,并能适应物理故障。
OpenAI 发布 Learning with Opponent-Learning Awareness(LOLA)算法,该算法在建模时考虑其他智能体也在学习这一事实,从而在迭代囚徒困境中发现"以牙还牙"这类既自利又合作的策略。OpenAI 称这是迈向能够建模他人心智的智能体的一小步。
OpenAI 在 Baselines 中发布 ACKTR 和 A2C 两个强化学习算法实现。A2C 是 A3C 的同步确定性变体,性能与之相当;ACKTR 比 TRPO 和 A2C 更节省样本,每次更新仅比 A2C 略多计算量。
OpenAI 公布 Dota 2 项目结果,说明在算力充足时自对弈能把机器学习系统从远低于人类水平提升到超人水平。系统在一个月内从勉强匹敌高排名玩家,进步到击败顶尖职业选手,此后仍在持续提升。OpenAI 指出,监督式深度学习系统的上限受训练数据集限制,而自对弈系统的可用数据会随智能体变强自动改善。
推荐理由:OpenAI 用 Dota 2 结果说明自对弈在足够算力下能把系统从远低于人类提升到超人水平。
OpenAI 宣布其打造的机器人在标准锦标赛规则下的 Dota 2 1v1 对战中击败了世界顶级职业选手。该机器人完全通过自我对弈从零学习游戏,未使用模仿学习或树搜索。OpenAI 称这是朝着构建能在涉及真实人类的混乱复杂情境中完成明确目标的人工智能系统迈出的一步。
推荐理由:OpenAI 用自我对弈从零训练出击败 Dota 2 顶级选手的机器人,可了解其不依赖模仿学习与树搜索的技术路线。
OpenAI 开源了 RL-Teacher,一个通过偶发人类反馈而非手工设计奖励函数来训练 AI 的接口实现。该技术为迈向安全 AI 系统而开发,也适用于奖励难以明确指定的强化学习问题。
OpenAI 发现,向强化学习算法的参数中加入自适应噪声(parameter noise)往往能提升性能。这种探索方法实现简单,且极少导致性能下降,因此值得在任何问题上尝试。