OpenAI News·· 2024-06-27精选AI 评分62
OpenAI 用 GPT-4 训练 CriticGPT 查找 ChatGPT 回复错误
Finding GPT-4’s mistakes with GPT-4
AI 导读
OpenAI 发布基于 GPT-4 的模型 CriticGPT，用于对 ChatGPT 的回复撰写批评意见，帮助人类训练员在 RLHF 过程中发现错误。
推荐理由
OpenAI 提出用 GPT-4 训练的 CriticGPT 辅助人类标注者发现 ChatGPT 回复中的错误，可用于理解 RLHF 环节的质量控制思路。
来源：OpenAI News · openai.com