OpenAI News·· 2025-12-22精选AI 评分60
OpenAI 持续加固 ChatGPT Atlas 抵御提示词注入
Continuously hardening ChatGPT Atlas against prompt injection
AI 导读
OpenAI 正在用基于强化学习训练的自动化红队手段加固 ChatGPT Atlas，抵御提示词注入攻击。这一发现与修补的循环有助于尽早识别新型攻击手法，并随着 AI 智能体能力增强持续强化浏览器智能体的防御。
推荐理由
官方说明 ChatGPT Atlas 用自动化红队加强化学习持续发现并修补提示词注入漏洞，可了解浏览器智能体的安全加固思路。
来源：OpenAI News · openai.com