OpenAI 用人类反馈摘要书籍
OpenAI 利用人类反馈来扩展 AI 系统在难以评估任务上的监督能力，并将其应用于书籍摘要。
#OpenAI
#OpenAI
今日 1 条OpenAI NewsAI 评分4242
OpenAI NewsAI 评分2222 Helen Toner 加入 OpenAI 董事会
OpenAI 宣布任命 Helen Toner 为董事会成员。Toner 现任乔治城大学安全与新兴技术中心（CSET）战略主管，此前曾在 Open Philanthropy 工作。
OpenAI News精选AI 评分6262 OpenAI 发布改进版 Codex，通过 API 开放私测
OpenAI 发布改进版 Codex，这是其将自然语言转换为代码的 AI 系统。该版本从今天起通过 API 以私测形式开放。
推荐理由：OpenAI 官方公布 Codex 改进版本并开放 API 私测，读者可了解自然语言转代码能力的接入方式。
OpenAI News精选AI 评分6262 OpenAI 发布 Triton 1.0：面向神经网络的 GPU 编程开源语言
OpenAI 发布 Triton 1.0，这是一门开源的类 Python 编程语言，让没有 CUDA 经验的研究者也能编写高效的 GPU 代码，多数情况下能达到专家水平。
推荐理由：OpenAI 开源 Triton 1.0，让没有 CUDA 经验的研究者也能写出接近专家水平的 GPU 代码。
OpenAI NewsAI 评分4242 OpenAI 研究：用精选数据集微调可改善语言模型行为
OpenAI 研究发现，通过在小型精选数据集上微调，可以改善语言模型在特定行为价值观方面的表现。
OpenAI NewsAI 评分2222 OpenAI Scholars 2021 毕业项目发布
OpenAI 宣布 2021 届 OpenAI Scholars 已完成为期六个月的导师计划，并在 OpenAI 提供的津贴与支持下完成了开源研究项目。
OpenAI NewsAI 评分3030 Will Hurd 加入 OpenAI 董事会
OpenAI 宣布美国国会议员 Will Hurd 加入其董事会。OpenAI 表示，实现造福全人类的通用人工智能目标，既需要技术专长，也需要公共政策方面的经验。
OpenAI News精选AI 评分6262 OpenAI 称已有超 300 款应用通过 API 接入 GPT-3
OpenAI 表示，已有超过 300 款应用通过其 API 使用 GPT-3，提供搜索、对话、文本补全等 AI 功能。
OpenAI News精选AI 评分6262 OpenAI 在 CLIP 中发现多模态神经元
OpenAI 在 CLIP 中发现一类神经元，无论概念以字面、符号还是概念形式呈现都会产生响应。这可能解释 CLIP 在分类出人意料的视觉概念变体时仍保持准确，也是理解 CLIP 及同类模型所学关联与偏见的重要一步。
推荐理由：OpenAI 在 CLIP 中发现对同一概念跨字面、符号与概念形式响应的神经元，为理解其分类准确性与习得偏见提供线索。
OpenAI NewsAI 评分4242 OpenAI 将 Kubernetes 集群扩展至 7,500 节点
OpenAI 已将 Kubernetes 集群扩展至 7,500 节点，为 GPT-3、CLIP 和 DALL·E 等大模型提供可扩展基础设施，同时支持 Scaling Laws for Neural Language Models 这类快速小规模迭代研究。
OpenAI News精选AI 评分8585 OpenAI 发布 DALL·E：从文本生成图像
OpenAI 训练了一个名为 DALL·E 的神经网络，可根据自然语言描述生成图像，覆盖自然语言可表达的广泛概念。
推荐理由：OpenAI 官方公布 DALL·E 这一文本生成图像神经网络，可据此了解早期文生图模型的能力定位。
OpenAI News精选AI 评分8080 OpenAI 发布 CLIP：用自然语言连接文本与图像
OpenAI 发布名为 CLIP 的神经网络，通过自然语言监督高效学习视觉概念。CLIP 只需提供待识别视觉类别的名称，即可应用于任意视觉分类基准，类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由：OpenAI 发布 CLIP，用自然语言监督学习视觉概念，可零样本迁移到任意视觉分类基准。
OpenAI NewsAI 评分1616 OpenAI 组织架构更新
OpenAI 发布组织更新，称过去一年公司经历了剧烈变化与增长。原文未披露具体调整细节。
OpenAI News精选AI 评分6868 OpenAI 将 GPT-3 技术授权给 Microsoft
OpenAI 宣布已同意将 GPT-3 授权给 Microsoft，用于其自有产品和服务。
推荐理由：OpenAI 将 GPT-3 授权给 Microsoft 用于其自有产品和服务，读者可据此了解双方早期合作的关键一步。
OpenAI NewsAI 评分5252 OpenAI 用人类反馈训练摘要模型
OpenAI 将人类反馈强化学习（RLHF）应用于语言模型训练，使其在摘要任务上表现更好。
OpenAI NewsAI 评分2222 OpenAI Scholars 2020 公布最终项目
OpenAI Scholars 2020 届学员在线上 Demo Day 展示了各自过去五个月的最终研究项目，这是该项目的第三届。
OpenAI NewsAI 评分2222 OpenAI 联合举办 Procgen 与 MineRL 竞赛
OpenAI 宣布与 AIcrowd、卡内基梅隆大学和 DeepMind 联合举办两场 NeurIPS 2020 竞赛，分别基于 Procgen Benchmark 和 MineRL。
OpenAI News精选AI 评分6262 OpenAI 发布 Image GPT：用 Transformer 生成图像
OpenAI 发现，正如在语言上训练的大型 Transformer 模型能生成连贯文本，同一模型在像素序列上训练后也能生成连贯的图像补全和样本。通过建立样本质量与图像分类准确率之间的相关性，研究显示其最佳生成模型在无监督设置下所含特征可与顶级卷积网络竞争。
推荐理由：OpenAI 用同一 Transformer 架构处理像素序列，并给出生成质量与分类精度的关联证据。
OpenAI News精选AI 评分7575 OpenAI 发布 API，开放调用其新 AI 模型
OpenAI 发布 API，用于访问其开发的新 AI 模型。
推荐理由：OpenAI 开放 API 供开发者调用其新模型，是了解其模型对外提供方式起点的简短记录。
OpenAI News精选AI 评分8080 OpenAI 论文：语言模型是少样本学习器
OpenAI 发布论文《Language models are few-shot learners》，探讨语言模型的少样本学习能力。该页面正文抓取失败，仅标题可用。
OpenAI News精选AI 评分6262 OpenAI 分析：ImageNet 训练算力每 16 个月减半
OpenAI 发布分析称，自 2012 年以来，在 ImageNet 分类上训练神经网络达到同等性能所需的算力每 16 个月减少一半。相比 2012 年，训练到 AlexNet 水平所需算力减少 44 倍，而同期摩尔定律只带来 11 倍的成本改善。OpenAI 认为，在近期投入较高的 AI 任务上，算法进步带来的收益超过传统硬件效率提升。
推荐理由：OpenAI 用 ImageNet 训练算力数据量化算法进步速度，可与摩尔定律对比理解 AI 效率来源。
OpenAI News精选AI 评分7878 OpenAI 发布生成音乐的神经网络 Jukebox
OpenAI 推出 Jukebox，一个能生成音乐的神经网络，可输出多种流派和艺术家风格的原始音频，并包含初步的歌唱。OpenAI 同时公开了模型权重和代码，以及一个用于试听生成样本的工具。
推荐理由：OpenAI 公开 Jukebox 的模型权重与代码，读者可了解这套生成原始音频的神经网络能产出哪些风格的音乐。
OpenAI NewsAI 评分3131 OpenAI 参与发布 AI 可验证性多利益相关方报告，提出 10 项机制
OpenAI 参与发布了一份由 30 个机构、58 位合著者共同完成的多利益相关方报告，提出 10 项机制以提升 AI 系统相关声明的可验证性。开发者可借助这些工具证明 AI 系统安全、可靠、公平或保护隐私，用户、政策制定者和公民社会也可据此评估 AI 开发过程。
OpenAI NewsAI 评分4242 OpenAI 推出 OpenAI Microscope 神经网络可视化工具
OpenAI 推出 Microscope，对八个视觉“模式生物”模型的每一重要层与神经元进行可视化，便于分析神经网络内部形成的特征。该工具面向可解释性研究，旨在帮助研究社区理解这些复杂系统。
OpenAI NewsAI 评分3636 OpenAI 将深度学习框架标准化为 PyTorch
OpenAI 宣布将其深度学习框架标准化为 PyTorch。
OpenAI News精选AI 评分6262 OpenAI 发布 Dota 2 大规模深度强化学习研究
OpenAI 发布关于 Dota 2 大规模深度强化学习的研究，原文正文未能抓取，仅标题可用。
OpenAI NewsAI 评分4141 OpenAI 研究：深度神经网络中的双下降现象
OpenAI 发现双下降现象同样出现在 CNN、ResNet 和 Transformer 中：随着模型规模、数据规模或训练时间增加，性能先提升、再变差、然后再次提升。这种效应通常可通过精细的正则化避免，但其成因尚不完全清楚，OpenAI 将其视为重要研究方向。
OpenAI NewsAI 评分3838 OpenAI 发布 Procgen Benchmark：16 个程序生成环境
OpenAI 发布 Procgen Benchmark，包含 16 个易于使用的程序生成环境，用于直接衡量强化学习智能体学习可泛化技能的速度。
OpenAI NewsAI 评分4242 OpenAI 发布 Safety Gym：面向强化学习智能体安全约束的评测环境与工具套件
OpenAI 发布 Safety Gym，一套用于衡量强化学习智能体在训练中遵守安全约束进展的环境与工具套件。该套件面向安全约束下的强化学习智能体评测，帮助测量其训练过程中的安全表现。
OpenAI News精选AI 评分8585 OpenAI 发布 GPT-2 1.5B 版本
OpenAI 发布 GPT-2 分阶段发布的最后一个版本，即 1.5B 参数的最大版本，同时开放代码和模型权重，以便检测 GPT-2 模型的输出。OpenAI 表示，尽管自 8 月以来已有更大的语言模型发布，仍按原定分阶段发布计划推进，为社区提供一个完整分阶段发布流程的测试案例。
推荐理由：OpenAI 公布 GPT-2 分阶段发布的收尾版本，并给出代码与权重，便于理解大模型负责任发布流程。
OpenAI News精选AI 评分7878 OpenAI 用机械手解魔方：仿真训练加 ADR 应对真实世界扰动
OpenAI 训练了一对神经网络，让类人机械手解开魔方。神经网络完全在仿真中训练，使用与 OpenAI Five 相同的强化学习代码，并搭配名为 Automatic Domain Randomization（ADR）的新技术。系统能应对训练中从未见过的情况，例如被毛绒长颈鹿戳碰，说明强化学习不只适用于虚拟任务，也能解决需要极高灵巧度的物理世界问题。
推荐理由：OpenAI 用仿真训练加 ADR 让机械手解魔方，可了解强化学习从虚拟任务走向物理操作的关键思路。
OpenAI NewsAI 评分2020 OpenAI Scholars 2020 申请开放
OpenAI 已开放第三期 OpenAI Scholars 项目的申请。该项目此前已举办两期，此次面向 2020 年度的招募现已启动。
OpenAI News精选AI 评分6565 OpenAI 用人类偏好微调 774M 参数 GPT-2
OpenAI 用人类反馈对 774M 参数的 GPT-2 语言模型进行微调，在多项任务上成功匹配外部人类标注者的偏好，但这些偏好并不总与 OpenAI 自身一致。在摘要任务中，标注者偏好直接从输入中整句复制的内容，模型因此学会了复制；摘要任务需要 6 万条人类标注，而按不同风格续写文本等更简单的任务只需 5 千条。OpenAI 表示其动机是让安全技术更接近“机器与人对话”这一通用任务。
推荐理由：OpenAI 用人类偏好微调 GPT-2 的早期实验，展示了不同任务所需标注量的差异，以及标注者偏好与研究者预期不一致的现象。
OpenAI News精选AI 评分6262 OpenAI 在多智能体交互中观察到涌现式工具使用
OpenAI 在模拟捉迷藏环境中训练智能体，观察到它们逐步学会使用更复杂的工具，并形成六种不同的策略与反策略，其中一些策略是该环境原本未被设计支持的。OpenAI 表示，这种在简单环境中自监督涌现出的复杂性，说明多智能体共同适应未来可能产生极其复杂且智能的行为。
推荐理由：OpenAI 在多智能体捉迷藏环境中观察到智能体自发形成六种工具使用策略，可了解涌现行为的实验路径。
OpenAI NewsAI 评分3131 OpenAI 提出 UAR 指标：评估神经网络对未知对抗攻击的鲁棒性
OpenAI 开发出一种评估神经网络分类器能否抵御训练中未见对抗攻击的方法，并提出新指标 UAR（Unforeseen Attack Robustness），用于衡量单一模型面对未预期攻击时的鲁棒性。该方法强调需要在更多样化的未知攻击上衡量模型表现。
OpenAI News精选AI 评分8282 OpenAI 发布 774M 参数 GPT-2 模型
OpenAI 发布 774M 参数的 GPT-2 语言模型，此前已先后发布 124M 小模型和 355M 中模型。OpenAI 同时发布一份开源法律协议，方便机构之间建立模型共享合作，并发布一份技术报告，介绍与更广泛 AI 研究社区协调发布规范的经验。
推荐理由：OpenAI 公布 GPT-2 分阶段发布的时间线与参数规模，并给出模型共享的法律协议与技术报告。
OpenAI NewsAI 评分1010 OpenAI 的 Learning Day：每周四员工可自学技术技能
OpenAI 将每周四设为 Learning Day，员工可选择自学那些日常工作中学不到、但能提升工作表现的技术技能。
OpenAI News精选AI 评分7878 微软向 OpenAI 投资 10 亿美元并达成合作
微软向 OpenAI 投资 10 亿美元，支持其构建通用人工智能（AGI）。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的硬件和软件平台，联合开发新的 Azure AI 超算技术，微软将成为 OpenAI 的独家云服务商。
推荐理由：微软向 OpenAI 投资 10 亿美元并成为其独家云服务商，读者可据此了解双方早期合作框架。
OpenAI NewsAI 评分2222 OpenAI 为何认为负责任的 AI 发展需要安全合作
OpenAI 发布政策研究论文，提出四项可立即采用的策略以提升 AI 安全规范领域长期行业合作的可能性：沟通风险与收益、技术协作、提高透明度、激励标准。分析指出，行业安全合作对确保 AI 系统安全有益至关重要，但竞争压力可能导致集体行动困境，使 AI 公司对安全投入不足。
OpenAI NewsAI 评分1212 OpenAI 举办 2019 机器人研讨会
OpenAI 于 2019 年 4 月 27 日举办了首届 OpenAI Robotics Symposium。