跳到正文

#Google

今日 1 条
2月9日周二
6月20日周六
3月6日周三
6月13日周二
  1. OpenAI News62

    OpenAI 与 DeepMind 合作研究从人类偏好中学习

    OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过让人类在两种候选行为中指出哪个更好,来推断人类想要的目标。OpenAI 称,构建安全 AI 系统的一步是免去人类编写目标函数的需要,因为用简单代理替代复杂目标或把复杂目标写偏,可能导致不良甚至危险的行为。

    推荐理由:OpenAI 与 DeepMind 安全团队合作提出从人类偏好推断目标的方法,可了解早期对齐研究的一条思路。

6月21日周二