OpenAI News·2024-12-20 18:00· 2024-12-20AI 评分57

OpenAI 提出审议式对齐：推理让语言模型更安全

Deliberative alignment: reasoning enables safer language models

AI 导读

OpenAI 为 o1 模型提出新的对齐策略“审议式对齐”，直接教模型安全规范以及如何对这些规范进行推理。该策略面向 o1 系列模型，目标是提升语言模型的安全性。

来源：OpenAI News · openai.com