OpenAI 微调 GPT-3 以规模化视频创作
OpenAI 对 GPT-3 进行微调，用于驱动并规模化"代客制作"的视频创作。原文未披露微调数据规模、具体合作方或性能指标。
#OpenAI
#OpenAI
今日 1 条OpenAI NewsAI 评分2222
OpenAI NewsAI 评分2222 OpenAI 用 GPT-3 打造新一代 AI 角色
OpenAI 利用 GPT-3 创建新一代 AI 驱动的角色。
OpenAI NewsAI 评分1212 OpenAI 的 Lilian Weng 谈持续学习的力量
OpenAI 应用 AI 研究团队的 Lilian Weng 就持续学习这一主题进行了分享。
Hugging Face BlogAI 评分4242 用 CLIPSeg 实现零样本图像分割
Hugging Face 发布指南，介绍如何通过 transformers 使用零样本图像分割模型 CLIPSeg。该模型在冻结的 CLIP 之上训练 Transformer 解码器，输入 352 x 352 像素图像，可生成粗略分割掩码，用于机器人感知、图像修复等任务，并支持以文本或示例图像作为提示的"视觉提示"。若需更精细结果，可在 Segments.ai 上对 CLIPSeg 输出进行细化。
OpenAI News精选AI 评分6262 OpenAI 发布 Point-E：从复杂提示词生成 3D 点云的系统
OpenAI 发布 Point-E，一个可根据复杂提示词生成 3D 点云的系统。
OpenAI News精选AI 评分6262 OpenAI 发布新版嵌入模型
OpenAI 宣布推出新的嵌入模型，称其在能力上显著提升，同时成本更低、使用更简单。原文未披露模型名称、版本号或具体评测数据。
推荐理由：OpenAI 发布新版嵌入模型，原文只给出能力、成本与易用性三项变化，缺少具体参数。
Hugging Face Blog精选AI 评分6262 图解基于人类反馈的强化学习（RLHF）
Hugging Face 博客图解 RLHF 的完整流程，将其拆为预训练语言模型、收集人类偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。文中说明奖励模型输出标量奖励，并用 KL 散度惩罚约束策略偏离初始模型，同时介绍了 TRL、TRLX、RL4LMs 等开源实现及 Anthropic 在 Hub 上发布的数据集。
推荐理由：文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步，并梳理了 TRL、TRLX、RL4LMs 等开源工具与主要论文，适合作为理解该流程的入门参考。
OpenAI NewsAI 评分44 OpenAI 超算团队工程师 Christian Gibson 谈后端系统细节发现
OpenAI 超算团队工程师 Christian Gibson 分享了发现后端系统细节的经历。
OpenAI News精选AI 评分9696 OpenAI 发布对话式模型 ChatGPT
OpenAI 发布对话式模型 ChatGPT，以对话形式与用户交互。官方称对话格式让 ChatGPT 能回答追问、承认自身错误、质疑错误前提并拒绝不当请求。
推荐理由：OpenAI 官方发布对话式模型 ChatGPT，读者可据此了解其对话交互定位与主要能力。
OpenAI News精选AI 评分6565 OpenAI 开放 DALL·E API 公测
OpenAI 宣布 DALL·E API 进入公开测试，开发者从即日起可以基于该 API 构建应用。
推荐理由：OpenAI 开放 DALL·E API 公测，开发者可据此判断图像生成能力接入自家应用的门槛变化。
Hugging Face Blog精选AI 评分6262 用 🤗 Transformers 微调 Whisper 实现多语言 ASR
Hugging Face 发布教程，介绍如何用 🤗 Transformers 在任意多语言 ASR 数据集上微调 Whisper。教程以 Common Voice 11.0 的印地语为例，用约 8 小时训练数据微调 244M 参数的 Whisper small，最佳 WER 为 32.0%，相比预训练模型的 63.5% 提升 31.5 个百分点。
推荐理由：以 8 小时印地语数据微调 Whisper small 的完整流程，WER 从 63.5% 降至 32.0%，可复用的多语言 ASR 微调方法。
OpenAI News精选AI 评分8080 OpenAI 宣布 DALL·E 取消候补名单开放使用
OpenAI 宣布 DALL·E 不再需要候补名单，新用户可以直接开始创作。OpenAI 表示，部署中积累的经验以及安全系统的改进，使更广泛的开放成为可能。
推荐理由：OpenAI 取消 DALL·E 候补名单，读者可了解其安全系统改进后开放策略的变化。
OpenAI News精选AI 评分7878 OpenAI 开源语音识别模型 Whisper
OpenAI 宣布训练并开源神经网络 Whisper，称其在英文语音识别上接近人类水平的鲁棒性和准确率。
推荐理由：OpenAI 开源语音识别模型 Whisper，读者可了解其在英文语音识别上的鲁棒性与准确率定位。
OpenAI News精选AI 评分6262 OpenAI 为 DALL·E 推出 outpainting 功能
OpenAI 为 DALL·E 推出 outpainting 功能，可生成任意尺寸的图像，在原有画面之外继续延展内容，从而讲述更大的故事。
推荐理由：OpenAI 为 DALL·E 增加 outpainting，读者可了解图像生成从单张出图扩展到任意尺寸延展。
OpenAI NewsAI 评分2626 OpenAI 的对齐研究思路
OpenAI 正在提升 AI 系统从人类反馈中学习、以及辅助人类评估 AI 的能力，目标是构建一个足够对齐的 AI 系统，再由它帮助解决其余所有对齐问题。
OpenAI NewsAI 评分4242 OpenAI 推出新版内容审核工具 Moderation 端点
OpenAI 发布新版内容审核工具 Moderation 端点，改进此前的内容过滤器，即日起免费向 OpenAI API 开发者开放。
OpenAI News精选AI 评分8888 OpenAI 将 DALL·E 开放测试版
OpenAI 宣布 DALL·E 进入测试版，将在未来几周从等待名单中邀请 100 万人使用。用户可用每月重置的免费积分生成图像，也可按 115 次生成 15 美元的价格购买额外积分。
推荐理由：OpenAI 公布 DALL·E 测试版开放规模与积分定价，读者可据此了解早期图像生成产品的可用方式。
OpenAI NewsAI 评分3838 OpenAI 为 DALL·E 2 降低偏见并提升安全性
OpenAI 为 DALL·E 2 部署了一项新技术，使其生成的人物图像能更准确地反映世界人口的多样性，以减少偏见并提升安全性。
OpenAI News精选AI 评分6262 OpenAI：DALL·E 2 研究预览吸引 118 个国家逾 3000 名艺术家
OpenAI 表示，在 DALL·E 2 研究预览阶段，来自 118 个以上国家的 3000 多名艺术家已将 DALL·E 纳入自己的创作流程。早期访问组的艺术家帮助发现了 DALL·E 的新用途，并在 DALL·E 功能决策中提供了关键意见。
推荐理由：DALL·E 2 研究预览阶段已有 118 个国家逾 3000 名艺术家将其纳入创作流程，可了解早期使用规模。
OpenAI NewsAI 评分4242 DALL·E 2 预训练缓解措施
为向广泛受众开放 DALL·E 2，OpenAI 在预训练阶段采取缓解措施，以降低强大图像生成模型带来的风险。为此，OpenAI 设置了多种防护栏，防止生成图像违反其内容政策。
OpenAI News精选AI 评分7070 OpenAI 用 Video PreTraining 训练神经网络玩 Minecraft
OpenAI 通过 Video PreTraining（VPT）在大量无标注的人类 Minecraft 游戏视频数据集上训练神经网络，仅使用少量承包商标注数据。经微调后，模型能学会制作钻石工具，这一任务通常需要熟练人类花费 20 多分钟、约 24000 次操作。模型使用键盘按键和鼠标移动这类原生人类交互接口，具有较强通用性，是迈向通用计算机使用智能体的一步。
推荐理由：OpenAI 用大量无标注人类游戏视频预训练网络，仅需少量标注数据即可学会制作钻石工具。
OpenAI News精选AI 评分6262 OpenAI 训练批评写作模型，帮助人类发现摘要缺陷
OpenAI 训练了批评写作模型，用于描述摘要中的缺陷。人类评估者在看到模型给出的批评后，发现摘要缺陷的频率明显提高。研究还发现，模型规模越大自我批评能力越强，且规模对批评写作的提升大于对摘要写作的提升，这为用 AI 系统辅助人类监督 AI 系统提供了可能。
推荐理由：OpenAI 用模型写批评来辅助人类发现摘要缺陷，并观察到规模对自我批评能力的提升更明显。
OpenAI NewsAI 评分4040 训练大型神经网络的技术
大型神经网络是近期许多 AI 进展的核心，但其训练是一项困难的工程与研究挑战，需要协调一整个 GPU 集群来完成单次同步计算。
OpenAI NewsAI 评分3838 Cohere、OpenAI 与 AI21 Labs 发布大语言模型部署最佳实践
Cohere、OpenAI 和 AI21 Labs 共同制定了一套适用于任何开发或部署大语言模型组织的初步最佳实践。该实践面向所有从事大语言模型开发与部署的机构。
OpenAI NewsAI 评分4242 OpenAI Codex 通过 API 为 70 款应用提供支持
OpenAI Codex 现已通过 OpenAI API 为 70 款不同应用提供支持，覆盖多种使用场景。
OpenAI News精选AI 评分7272 OpenAI 更新 DALL·E 2 研究预览：每周新增最多 1000 名候补用户
OpenAI 更新 DALL·E 2 研究预览进展，早期用户迄今已生成超过 300 万张图像，并帮助改进了安全流程。OpenAI 表示将开始每周从候补名单中新增最多 1000 名用户。
推荐理由：官方披露 DALL·E 2 研究预览的早期使用规模与每周放量节奏，可据此了解其开放进度。
OpenAI NewsAI 评分2323 OpenAI 领导团队更新
OpenAI 宣布多项高管职位调整，称这些变动反映了公司近期进展，并将确保继续推进下一阶段重要里程碑。
OpenAI NewsAI 评分2222 OpenAI 如何度量古德哈特定律
OpenAI 探讨古德哈特定律在 AI 优化中的影响：当一个度量指标变成目标时，它就不再是好的度量。该定律源自经济学，但在 OpenAI 优化难以或高成本度量的目标时同样适用。
OpenAI News精选AI 评分6262 OpenAI 发布 GPT-3 与 Codex 新版本，支持编辑和插入内容
OpenAI 发布新版本 GPT-3 和 Codex，可在已有文本中编辑或插入内容，而不再只是续写现有文本。
推荐理由：OpenAI 为 GPT-3 和 Codex 增加编辑与插入能力，读者可了解模型从续写扩展到改写已有文本的变化。
OpenAI NewsAI 评分3030 OpenAI 分享语言模型安全与滥用问题的经验教训
OpenAI 公开其在语言模型安全与滥用方面的最新思考，旨在帮助其他 AI 开发者应对已部署模型的安全与滥用问题。
OpenAI NewsAI 评分1818 OpenAI 征集大语言模型经济影响研究意向
OpenAI 发起意向征集，邀请研究者参与研究大语言模型的经济影响。该征集面向有意开展相关研究的各方，具体参与方式与研究方向未在文中进一步说明。
OpenAI News精选AI 评分6262 OpenAI 构建神经定理证明器，用 Lean 求解部分数学奥赛题
OpenAI 构建了一个面向 Lean 的神经定理证明器，能够求解多道高难度高中数学奥赛题，包括来自 AMC12 和 AIME 的题目，以及两道改编自 IMO 的问题。
推荐理由：OpenAI 用神经定理证明器在 Lean 中解出 AMC12、AIME 及两道改编自 IMO 的题目，可了解形式化数学推理的早期进展。
OpenAI News精选AI 评分8282 OpenAI 发布 InstructGPT，成为 API 默认语言模型
OpenAI 训练出 InstructGPT 模型，在遵循用户意图方面明显优于 GPT-3，同时更真实、毒性更低，训练过程引入人类反馈。这些模型现已作为 OpenAI API 的默认语言模型部署。
推荐理由：OpenAI 说明 InstructGPT 通过人类反馈训练，在遵循用户意图、真实性和毒性上优于 GPT-3，并已成为 API 默认模型。
OpenAI News精选AI 评分6262 OpenAI 在 API 中推出文本与代码 embeddings 端点
OpenAI 在 API 中推出 embeddings 端点，用于自然语言和代码任务。该端点支持语义搜索、聚类、主题建模和分类等场景。
推荐理由：OpenAI 在 API 中新增 embeddings 端点，读者可据此了解语义搜索与代码任务的新接入方式。
OpenAI News精选AI 评分6060 OpenAI 发布 WebGPT：通过网页浏览提升语言模型事实准确率
OpenAI 对 GPT-3 进行微调，使其能借助基于文本的网页浏览器更准确地回答开放式问题。
推荐理由：OpenAI 用文本浏览器微调 GPT-3 提升开放问答事实准确率，可了解早期检索增强思路。
OpenAI NewsAI 评分5050 OpenAI 推出 GPT-3 微调功能：一条命令定制你的应用
OpenAI 为 GPT-3 推出微调功能，开发者只需一条命令即可针对自己的应用定制模型。
OpenAI NewsAI 评分3030 OpenAI 推出 Residency 人才驻留计划
OpenAI 宣布推出 OpenAI Residency，作为其支持和培养 AI 人才努力的一部分。该计划面向有志进入 AI 领域的人才，具体申请条件、时间安排与名额等细节尚未在公告中披露。
OpenAI News精选AI 评分7878 OpenAI API 取消等待名单，全面开放
OpenAI 宣布其 API 不再需要等待名单即可使用，并称更广泛的开放得益于安全方面的进展。
推荐理由：OpenAI 取消 API 等待名单，读者可据此了解其 API 开放范围与安全进展的关系。
OpenAI News精选AI 评分6262 OpenAI 训练系统求解小学数学应用题，准确率约为微调 GPT-3 的两倍
OpenAI 训练了一个求解小学数学应用题的模型，准确率接近微调 GPT-3 模型的两倍。该系统能解出约 90% 的题目数量，在数据集测试中得分 55%，而 9-12 岁儿童小样本在同一批题目上得分 60%。
推荐理由：OpenAI 用小学数学应用题对比自家系统与微调 GPT-3 及 9-12 岁儿童的表现，可了解当时模型推理能力的边界。
Hugging Face BlogAI 评分2222 用遥感（卫星）图像与描述文本微调 CLIP
一个跨 12 个时区的团队用 RSICD、UCM 和 Sydney 三个遥感数据集微调了 OpenAI 的 CLIP，使其能按文本描述检索卫星图像。训练采用对比学习，并用 Torchvision 图像增强与 Marian MT 回译文本增强抑制过拟合。模型、项目页与 demo 均已公开，可用于以文本查询大规模卫星图像库。