OpenAI News·· 2026-03-10精选AI 评分62
OpenAI 用 IH-Challenge 改进前沿大模型的指令层级
Improving instruction hierarchy in frontier LLMs
AI 导读
OpenAI 发布 IH-Challenge，用于训练模型优先执行可信指令，从而改进指令层级、安全可控性并提升对提示注入攻击的抵抗能力。
推荐理由
OpenAI 提出 IH-Challenge 训练方法，读者可了解前沿模型指令层级与抗提示注入的一条技术路径。
来源：OpenAI News · openai.com