OpenAI 的 AI 安全方法
OpenAI 阐述了其确保 AI 系统安全构建、部署和使用的方法，并强调这是其使命的关键。
#OpenAI
#OpenAI
今日 7 条OpenAI NewsAI 评分2626
OpenAI NewsAI 评分4242 OpenAI 公布 3 月 20 日 ChatGPT 宕机原因与修复措施
OpenAI 公布 3 月 20 日 ChatGPT 宕机事件的调查结果、已采取的修复措施及该 bug 的技术细节。
OpenAI News精选AI 评分8282 OpenAI 为 ChatGPT 推出插件支持
OpenAI 宣布为 ChatGPT 实现插件的初步支持。插件是专为语言模型设计的工具，以安全为核心原则，可帮助 ChatGPT 获取最新信息、执行计算或使用第三方服务。
推荐理由：OpenAI 官方给出 ChatGPT 插件的最初支持范围，读者可据此了解语言模型接入外部工具与实时信息的早期形态。
OpenAI News精选AI 评分6262 GPTs are GPTs：大语言模型对劳动力市场潜在影响的早期观察
OpenAI 发布题为 GPTs are GPTs 的研究，初步考察大语言模型对劳动力市场的潜在影响。
OpenAI NewsAI 评分3030 Khan Academy 用 GPT-4 试点虚拟课堂教育
Khan Academy 正在一项有限试点项目中探索 GPT-4 用于虚拟教育的潜力。该试点聚焦课堂场景，具体功能与规模尚未披露。
OpenAI News精选AI 评分9595 OpenAI 发布多模态大模型 GPT-4
OpenAI 发布 GPT-4，称其为扩大深度学习规模的最新里程碑。GPT-4 是一个大型多模态模型，接受图像和文本输入、输出文本，在多项专业和学术基准上达到人类水平表现，但在许多真实场景中能力仍不及人类。
推荐理由：OpenAI 官方给出 GPT-4 的多模态输入形态与基准表现，可据此了解这一代模型的能力边界。
OpenAI NewsAI 评分3434 Stripe 借助 GPT-4 优化用户体验并对抗欺诈
Stripe 利用 GPT-4 简化用户体验并打击欺诈行为。该支付公司通过 GPT-4 提升服务效率，同时加强反欺诈能力。
OpenAI NewsAI 评分2222 GPT-4 如何填补 Duolingo 的关键语言学习空白
OpenAI 的 GPT-4 被用于 Duolingo，以填补关键的语言学习空白。正文未披露具体功能、参数或可用性细节。
OpenAI NewsAI 评分4040 Be My Eyes 用 GPT-4 变革视觉无障碍体验
Be My Eyes 借助 GPT-4 变革视觉无障碍体验。该应用利用 GPT-4 为视障用户提供视觉辅助能力。
OpenAI NewsAI 评分2222 冰岛如何用 GPT-4 保护本国语言
冰岛正在使用 GPT-4 保护其语言。OpenAI 介绍了这一合作，旨在借助大语言模型应对冰岛语在数字时代面临的存续挑战。
OpenAI News精选AI 评分8989 OpenAI 发布 GPT-4
OpenAI 发布 GPT-4，官方说明它可在创意与技术写作任务中与用户生成、编辑和迭代内容，例如创作歌曲、撰写剧本或学习用户的写作风格。
推荐理由：OpenAI 官方发布 GPT-4，并给出其在创意与技术写作上的生成、编辑与迭代能力。
OpenAI News精选AI 评分6262 OpenAI 发布 AGI 及更远未来的规划
OpenAI 发布文章阐述其对 AGI 及更远未来的规划，称其使命是确保比人类更聪明的通用人工智能造福全人类。
推荐理由：OpenAI 官方阐述 AGI 使命与长期规划，可了解其对通用人工智能安全与治理的立场。
OpenAI News精选AI 评分6262 OpenAI 谈 AI 系统应如何表现以及由谁决定
OpenAI 发文说明 ChatGPT 的行为是如何被塑造的，并介绍其改进计划，包括让用户拥有更多定制空间，以及在相关决策中引入更多公众意见。
推荐理由：OpenAI 说明 ChatGPT 行为如何被塑造，并给出用户定制与公众参与决策的改进方向。
OpenAI News精选AI 评分7070 OpenAI 推出 ChatGPT Plus 订阅试点
OpenAI 宣布为 ChatGPT 推出试点订阅方案 ChatGPT Plus。ChatGPT 是一款对话式 AI，可与用户聊天、回答追问并指出错误假设。
推荐理由：OpenAI 官方公布 ChatGPT 付费订阅试点，读者可了解其订阅模式的最初形态。
OpenAI NewsAI 评分5252 OpenAI 发布识别 AI 生成文本的分类器
OpenAI 发布一款经过训练的分类器，用于区分 AI 生成文本与人类撰写文本。
Hugging Face BlogAI 评分5252 Hugging Face 解读对话智能体为何有用：RLHF、IFT、CoT 等技术梳理
Hugging Face 发布博客梳理让对话智能体变得有用的关键技术，包括指令微调（IFT）、监督微调（SFT）、思维链（CoT）和基于人类反馈的强化学习（RLHF）。
OpenAI News精选AI 评分6262 OpenAI 与 Microsoft 宣布延长合作关系
OpenAI 与 Microsoft 宣布延长双方的合作关系，公告未披露具体条款、金额或期限。
OpenAI NewsAI 评分4040 OpenAI 与乔治城大学、斯坦福互联网观测站联合研究：语言模型如何被用于虚假信息宣传及风险缓解
OpenAI 联合乔治城大学安全与新兴技术中心及斯坦福互联网观测站，研究大语言模型可能被用于虚假信息宣传的方式，并发布了一份基于一年多研究的联合报告。报告梳理了语言模型若被用于增强虚假信息宣传会对信息环境构成的威胁，并提出了一套分析潜在缓解措施的框架。
OpenAI NewsAI 评分2020 OpenAI 用 GPT-3 从客户反馈中快速提炼细致洞察
OpenAI 展示了用 GPT-3 从客户反馈中快速提炼细致洞察的做法。该方案面向客户反馈分析场景，目标是兼顾速度与洞察的细腻度。
OpenAI NewsAI 评分2222 OpenAI 微调 GPT-3 以规模化视频创作
OpenAI 对 GPT-3 进行微调，用于驱动并规模化"代客制作"的视频创作。原文未披露微调数据规模、具体合作方或性能指标。
OpenAI NewsAI 评分2222 OpenAI 用 GPT-3 打造新一代 AI 角色
OpenAI 利用 GPT-3 创建新一代 AI 驱动的角色。
OpenAI NewsAI 评分1212 OpenAI 的 Lilian Weng 谈持续学习的力量
OpenAI 应用 AI 研究团队的 Lilian Weng 就持续学习这一主题进行了分享。
Hugging Face BlogAI 评分4242 用 CLIPSeg 实现零样本图像分割
Hugging Face 发布指南，介绍如何通过 transformers 使用零样本图像分割模型 CLIPSeg。该模型在冻结的 CLIP 之上训练 Transformer 解码器，输入 352 x 352 像素图像，可生成粗略分割掩码，用于机器人感知、图像修复等任务，并支持以文本或示例图像作为提示的"视觉提示"。若需更精细结果，可在 Segments.ai 上对 CLIPSeg 输出进行细化。
OpenAI News精选AI 评分6262 OpenAI 发布 Point-E：从复杂提示词生成 3D 点云的系统
OpenAI 发布 Point-E，一个可根据复杂提示词生成 3D 点云的系统。
OpenAI News精选AI 评分6262 OpenAI 发布新版嵌入模型
OpenAI 宣布推出新的嵌入模型，称其在能力上显著提升，同时成本更低、使用更简单。原文未披露模型名称、版本号或具体评测数据。
推荐理由：OpenAI 发布新版嵌入模型，原文只给出能力、成本与易用性三项变化，缺少具体参数。
Hugging Face Blog精选AI 评分6262 图解基于人类反馈的强化学习（RLHF）
Hugging Face 博客图解 RLHF 的完整流程，将其拆为预训练语言模型、收集人类偏好数据训练奖励模型、用 PPO 微调语言模型三个核心步骤。文中说明奖励模型输出标量奖励，并用 KL 散度惩罚约束策略偏离初始模型，同时介绍了 TRL、TRLX、RL4LMs 等开源实现及 Anthropic 在 Hub 上发布的数据集。
推荐理由：文章把 RLHF 拆成预训练、奖励模型、PPO 微调三步，并梳理了 TRL、TRLX、RL4LMs 等开源工具与主要论文，适合作为理解该流程的入门参考。
OpenAI NewsAI 评分44 OpenAI 超算团队工程师 Christian Gibson 谈后端系统细节发现
OpenAI 超算团队工程师 Christian Gibson 分享了发现后端系统细节的经历。
OpenAI News精选AI 评分9696 OpenAI 发布对话式模型 ChatGPT
OpenAI 发布对话式模型 ChatGPT，以对话形式与用户交互。官方称对话格式让 ChatGPT 能回答追问、承认自身错误、质疑错误前提并拒绝不当请求。
推荐理由：OpenAI 官方发布对话式模型 ChatGPT，读者可据此了解其对话交互定位与主要能力。
OpenAI News精选AI 评分6565 OpenAI 开放 DALL·E API 公测
OpenAI 宣布 DALL·E API 进入公开测试，开发者从即日起可以基于该 API 构建应用。
推荐理由：OpenAI 开放 DALL·E API 公测，开发者可据此判断图像生成能力接入自家应用的门槛变化。
Hugging Face Blog精选AI 评分6262 用 🤗 Transformers 微调 Whisper 实现多语言 ASR
Hugging Face 发布教程，介绍如何用 🤗 Transformers 在任意多语言 ASR 数据集上微调 Whisper。教程以 Common Voice 11.0 的印地语为例，用约 8 小时训练数据微调 244M 参数的 Whisper small，最佳 WER 为 32.0%，相比预训练模型的 63.5% 提升 31.5 个百分点。
推荐理由：以 8 小时印地语数据微调 Whisper small 的完整流程，WER 从 63.5% 降至 32.0%，可复用的多语言 ASR 微调方法。
OpenAI News精选AI 评分8080 OpenAI 宣布 DALL·E 取消候补名单开放使用
OpenAI 宣布 DALL·E 不再需要候补名单，新用户可以直接开始创作。OpenAI 表示，部署中积累的经验以及安全系统的改进，使更广泛的开放成为可能。
推荐理由：OpenAI 取消 DALL·E 候补名单，读者可了解其安全系统改进后开放策略的变化。
OpenAI News精选AI 评分7878 OpenAI 开源语音识别模型 Whisper
OpenAI 宣布训练并开源神经网络 Whisper，称其在英文语音识别上接近人类水平的鲁棒性和准确率。
推荐理由：OpenAI 开源语音识别模型 Whisper，读者可了解其在英文语音识别上的鲁棒性与准确率定位。
OpenAI News精选AI 评分6262 OpenAI 为 DALL·E 推出 outpainting 功能
OpenAI 为 DALL·E 推出 outpainting 功能，可生成任意尺寸的图像，在原有画面之外继续延展内容，从而讲述更大的故事。
推荐理由：OpenAI 为 DALL·E 增加 outpainting，读者可了解图像生成从单张出图扩展到任意尺寸延展。
OpenAI NewsAI 评分2626 OpenAI 的对齐研究思路
OpenAI 正在提升 AI 系统从人类反馈中学习、以及辅助人类评估 AI 的能力，目标是构建一个足够对齐的 AI 系统，再由它帮助解决其余所有对齐问题。
OpenAI NewsAI 评分4242 OpenAI 推出新版内容审核工具 Moderation 端点
OpenAI 发布新版内容审核工具 Moderation 端点，改进此前的内容过滤器，即日起免费向 OpenAI API 开发者开放。
OpenAI News精选AI 评分8888 OpenAI 将 DALL·E 开放测试版
OpenAI 宣布 DALL·E 进入测试版，将在未来几周从等待名单中邀请 100 万人使用。用户可用每月重置的免费积分生成图像，也可按 115 次生成 15 美元的价格购买额外积分。
推荐理由：OpenAI 公布 DALL·E 测试版开放规模与积分定价，读者可据此了解早期图像生成产品的可用方式。
OpenAI NewsAI 评分3838 OpenAI 为 DALL·E 2 降低偏见并提升安全性
OpenAI 为 DALL·E 2 部署了一项新技术，使其生成的人物图像能更准确地反映世界人口的多样性，以减少偏见并提升安全性。
OpenAI News精选AI 评分6262 OpenAI：DALL·E 2 研究预览吸引 118 个国家逾 3000 名艺术家
OpenAI 表示，在 DALL·E 2 研究预览阶段，来自 118 个以上国家的 3000 多名艺术家已将 DALL·E 纳入自己的创作流程。早期访问组的艺术家帮助发现了 DALL·E 的新用途，并在 DALL·E 功能决策中提供了关键意见。
推荐理由：DALL·E 2 研究预览阶段已有 118 个国家逾 3000 名艺术家将其纳入创作流程，可了解早期使用规模。
OpenAI NewsAI 评分4242 DALL·E 2 预训练缓解措施
为向广泛受众开放 DALL·E 2，OpenAI 在预训练阶段采取缓解措施，以降低强大图像生成模型带来的风险。为此，OpenAI 设置了多种防护栏，防止生成图像违反其内容政策。
OpenAI News精选AI 评分7070 OpenAI 用 Video PreTraining 训练神经网络玩 Minecraft
OpenAI 通过 Video PreTraining（VPT）在大量无标注的人类 Minecraft 游戏视频数据集上训练神经网络，仅使用少量承包商标注数据。经微调后，模型能学会制作钻石工具，这一任务通常需要熟练人类花费 20 多分钟、约 24000 次操作。模型使用键盘按键和鼠标移动这类原生人类交互接口，具有较强通用性，是迈向通用计算机使用智能体的一步。
推荐理由：OpenAI 用大量无标注人类游戏视频预训练网络，仅需少量标注数据即可学会制作钻石工具。