OpenAI 发布第三方可信评估指南
OpenAI 分享第三方 AI 评估指南，覆盖如何评估前沿系统的模型能力、安全防护措施与评估有效性。
#安全/对齐
#安全/对齐
今日 0 条OpenAI NewsAI 评分2626
OpenAI NewsAI 评分4242 OpenAI 前沿治理框架：对齐欧盟与加州 AI 监管
OpenAI 公布其前沿治理框架，说明自身在 AI 安全、安保与风险管理上的做法如何对齐欧盟和加州正在成形的法规。该框架将公司现有实践与这两地的新兴监管要求相对应。
Google ResearchAI 评分3434 Google 推出零信任聚合的隐私分析方案
Google 发布一套面向隐私分析的零信任聚合方案，将新型单次消息加密聚合协议与 TEE 结合，设备无需多轮在线即可提交数据。该设计使原始数据在任何服务器内存中都不会被暴露或重建，仅在数据完成聚合并匿名化后才在设备外处理明文，并借助 TEE 远程认证向参与者证明协议按公开代码正确执行。
OpenAI NewsAI 评分2222 OpenAI 公布 2026 年选举信息与安全保障措施
OpenAI 公布 2026 年选举支持方案，涵盖可靠信息、网络防御、AI 透明度、滥用防护与偏见监测五个方面。该方案旨在为选举场景提供信息真实性与安全层面的保障。
OpenAI NewsAI 评分3838 ChatGPT 安全更新：提升敏感对话中的上下文识别能力
ChatGPT 推出安全更新，提升敏感对话中的上下文感知能力，可随时间推移识别风险并更安全地回应。该更新帮助模型在敏感话题中更好地理解语境，从而做出更恰当的响应。
OpenAI NewsAI 评分5858 OpenAI 回应 TanStack npm 供应链攻击
OpenAI 就 TanStack「Mini Shai-Hulud」供应链攻击作出回应，说明已采取的系统与签名证书保护措施，并解释 macOS 用户为何必须在 2026 年 6 月 12 日前更新 OpenAI 应用。文中还介绍了事件经过、受影响范围以及 OpenAI 如何加强对软件供应链威胁的防御。
OpenAI NewsAI 评分3838 OpenAI 如何安全运行 Codex
OpenAI 通过沙箱隔离、审批机制、网络策略和智能体原生遥测来安全运行 Codex，以支持编程智能体的安全合规采用。
OpenAI News精选AI 评分6262 OpenAI 以 GPT-5.5 和 GPT-5.5-Cyber 扩展网络安全可信访问
OpenAI 扩展 Trusted Access for Cyber 计划，新增 GPT-5.5 和 GPT-5.5-Cyber，面向经过验证的防御方，帮助其加快漏洞研究并保护关键基础设施。
推荐理由：OpenAI 将 GPT-5.5 与 GPT-5.5-Cyber 纳入可信访问计划，读者可了解其面向漏洞研究的开放范围。
OpenAI NewsAI 评分5050 ChatGPT 推出 Trusted Contact 安全功能
OpenAI 为 ChatGPT 推出可选安全功能 Trusted Contact，当系统检测到严重的自残风险时，会通知用户指定的可信任联系人。该功能为可选项，需用户自行设置联系人。
OpenAI NewsAI 评分2222 ChatGPT 如何在保护隐私的同时学习世界知识
OpenAI 详解 ChatGPT 如何在训练中保护用户隐私：减少训练数据中的个人信息，并让用户自主控制自己的对话是否用于改进 AI 模型。
OpenAI NewsAI 评分3232 OpenAI 提出 Intelligence Age 网络安全五部分行动计划
OpenAI 提出一项五部分行动计划，旨在加强 Intelligence Age 的网络安全，重点是普及 AI 驱动的网络防御并保护关键系统。
OpenAI NewsAI 评分2222 OpenAI 如何保障 ChatGPT 社区安全
OpenAI 通过模型防护、滥用检测、政策执行以及与安全专家合作，保障 ChatGPT 的社区安全。
OpenAI News精选AI 评分6262 OpenAI 发布 Privacy Filter 开源权重模型
OpenAI 发布 Privacy Filter，这是一个开放权重模型，用于检测并脱敏文本中的个人身份信息（PII），官方称其准确率达到当前最优水平。
推荐理由：OpenAI 开源 PII 检测与脱敏模型，读者可据此了解文本隐私处理的新可选方案。
Hugging Face BlogAI 评分3838 AI 与网络安全的未来：为什么开放性至关重要
Hugging Face 发文指出，Mythos 这类前沿 AI 模型嵌入特定系统后可快速发现并修补软件漏洞，其能力并非来自单一模型，而是算力、代码数据、漏洞探测脚手架与系统自主性组合的结果。文章认为开源生态能把检测、验证、协调与补丁分发分散到社区，避免闭源单点失效，并主张用可审计的半自主 AI 智能体构建防御。
OpenAI NewsAI 评分4040 OpenAI 推出 Trusted Access for Cyber，安全厂商用 GPT-5.4-Cyber 强化网络防御
OpenAI 面向网络安全领域推出 Trusted Access for Cyber，领先安全公司与多家企业已加入，使用 GPT-5.4-Cyber 加强全球网络防御。该计划同时提供 1000 万美元 API 额度资助。
OpenAI NewsAI 评分4242 OpenAI 扩展 Trusted Access for Cyber 计划，推出 GPT-5.4-Cyber
OpenAI 扩展 Trusted Access for Cyber 计划，向经过审核的防御方推出 GPT-5.4-Cyber，并随 AI 网络安全能力提升强化防护措施。
OpenAI NewsAI 评分5858 OpenAI 回应 Axios 开发者工具供应链攻击
OpenAI 就 Axios 供应链攻击作出回应，轮换了 macOS 代码签名证书并更新了应用，同时确认没有用户数据遭到泄露。
OpenAI NewsAI 评分1010 OpenAI 发布 AI 负责任与安全使用指南
OpenAI 发布 AI 负责任使用指南，围绕安全、准确性与透明度给出最佳实践，适用于 ChatGPT 等工具。
OpenAI NewsAI 评分4242 OpenAI 发布儿童安全蓝图
OpenAI 发布儿童安全蓝图，为负责任地构建 AI 提供路线图，涵盖安全防护措施、适龄设计和多方协作，旨在保护并赋能年轻人在线体验。
OpenAI NewsAI 评分3636 OpenAI 宣布推出 OpenAI Safety Fellowship
OpenAI 宣布启动 Safety Fellowship 试点项目，旨在支持独立的安全与对齐研究，并培养下一代人才。该项目为试点性质，具体资助规模、申请条件与时间安排尚未在公告中披露。
Google ResearchAI 评分4040 Google Research 发布 LLM 行为倾向对齐评估框架
Google Research 提出一套评估 LLM 行为倾向与人类共识对齐程度的框架，将 IRI、ERQ 等心理问卷改编为情境判断测试（SJT），在 25 个 LLM 上测试共情、情绪调节等四类特质。
Google Research精选AI 评分6666 Google Quantum AI 发布白皮书：量子计算机破解加密货币椭圆曲线密码所需资源大幅下降
Google Quantum AI 发布白皮书，称未来量子计算机破解保护加密货币的椭圆曲线密码（ECDLP-256）所需的量子比特和门数比此前估计更少。
推荐理由：Google Quantum AI 给出破解 ECDLP-256 的最新量子资源估算，并用零知识证明公开结论，读者可了解量子威胁与后量子迁移的紧迫性。
Google DeepMind精选AI 评分6262 Google DeepMind 发布有害操纵评估研究：首个经实证验证的测量工具包
Google DeepMind 发布关于 AI 有害操纵的新研究，称其为首个经实证验证、可在真实世界测量此类操纵的工具包，并公开运行同类人类参与者研究所需的全部材料。
推荐理由：Google DeepMind 公开了首个经实证验证的有害操纵测量工具包，并给出跨英、美、印三国万人实验的关键结论。
OpenAI NewsAI 评分2222 OpenAI 解读其 Model Spec 方法：模型行为的公开框架
OpenAI 的 Model Spec 是一套公开的模型行为框架，用于在 AI 系统演进过程中平衡安全、用户自由与问责。该框架面向模型行为设定公开标准，并随 AI 能力提升持续调整。
OpenAI News精选AI 评分6060 OpenAI 推出安全漏洞赏金计划
OpenAI 推出 Safety Bug Bounty 计划，用于识别 AI 滥用与安全风险，覆盖范围包括智能体漏洞、提示注入和数据外泄。
推荐理由：OpenAI 把智能体漏洞、提示注入和数据外泄纳入漏洞赏金范围，读者可了解其安全风险覆盖边界。
OpenAI NewsAI 评分2727 OpenAI 为开发者发布基于提示词的青少年安全策略，适配 gpt-oss-safeguard
OpenAI 发布面向开发者的青少年安全策略，基于提示词实现，配合 gpt-oss-safeguard 对 AI 系统中与年龄相关的风险进行内容审核。该策略旨在帮助开发者构建更安全的青少年 AI 体验。
OpenAI NewsAI 评分4242 OpenAI 如何为 Sora 2 与 Sora 应用构建安全基础
OpenAI 针对视频模型 Sora 2 及新社交创作平台 Sora 应用带来的新型安全挑战，将安全作为设计基础，并以具体防护措施为支撑。
OpenAI NewsAI 评分4242 OpenAI 如何监控内部编码智能体的失准行为
OpenAI 利用思维链监控研究内部编码智能体的失准问题，通过分析真实部署环境来检测风险并强化 AI 安全保障措施。
Google DeepMindAI 评分4646 Google DeepMind 发布 AGI 认知框架，并启动 Kaggle 黑客松构建评测
Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》，提出用认知科学衡量 AGI 进展的框架，涵盖感知、生成、注意力、学习、记忆、推理、元认知、执行功能、问题解决和社会认知 10 项认知能力，并配套三阶段评测协议。
OpenAI NewsAI 评分3030 OpenAI Japan 发布日本青少年安全蓝图，将青少年安全置于首位
OpenAI Japan 发布日本青少年安全蓝图，为使用生成式 AI 的青少年引入更严格的年龄保护、家长控制和身心健康保障措施。
OpenAI NewsAI 评分3838 Codex Security 为何不提供 SAST 报告
OpenAI 详解 Codex Security 为何不依赖传统 SAST，转而用 AI 驱动的约束推理与验证来发现真实漏洞，并减少误报。
OpenAI NewsAI 评分4040 OpenAI 如何设计 AI 智能体抵御提示词注入
OpenAI 介绍了 ChatGPT 在智能体工作流中抵御提示词注入与社会工程攻击的设计思路：通过限制高风险操作、保护敏感数据来降低风险。
OpenAI News精选AI 评分6262 OpenAI 用 IH-Challenge 改进前沿大模型的指令层级
OpenAI 发布 IH-Challenge，用于训练模型优先执行可信指令，从而改进指令层级、安全可控性并提升对提示注入攻击的抵抗能力。
推荐理由：OpenAI 提出 IH-Challenge 训练方法，读者可了解前沿模型指令层级与抗提示注入的一条技术路径。
OpenAI News精选AI 评分6262 OpenAI 宣布收购 AI 安全平台 Promptfoo
OpenAI 宣布收购 AI 安全平台 Promptfoo。Promptfoo 帮助企业在开发阶段识别并修复 AI 系统中的漏洞。
推荐理由：OpenAI 收购 AI 安全平台 Promptfoo，读者可了解其在企业 AI 安全测试环节的布局方向。
OpenAI NewsAI 评分5555 OpenAI 提出 CoT-Control：推理模型难以控制自身思维链
OpenAI 提出 CoT-Control，发现推理模型难以控制自己的思维链，并认为这一特性强化了可监控性作为 AI 安全保障的价值。
OpenAI NewsAI 评分4242 OpenAI 更新心理健康相关工作：家长控制、可信联系人、痛苦检测与诉讼进展
OpenAI 公布其心理健康安全工作的最新进展，包括家长控制、可信联系人、改进的痛苦检测，以及近期诉讼方面的动态。
OpenAI NewsAI 评分2222 OpenAI 发布 2026 年 2 月威胁报告：AI 恶意使用与防御
OpenAI 最新威胁报告分析了恶意行为者如何将 AI 模型与网站、社交平台结合使用，以及这对检测与防御意味着什么。报告聚焦此类组合式滥用手法带来的识别挑战。
OpenAI NewsAI 评分4040 OpenAI 向 The Alignment Project 投入 750 万美元，资助 AI 对齐独立研究
OpenAI 承诺向 The Alignment Project 投入 750 万美元，用于资助独立的 AI 对齐研究，以加强全球应对 AGI 安全与安保风险的努力。
OpenAI NewsAI 评分3838 OpenAI 与 Paradigm 推出 EVMbench，评测 AI 智能体发现与利用智能合约漏洞能力
OpenAI 与 Paradigm 联合推出 EVMbench，用于评测 AI 智能体检测、修补和利用高危智能合约漏洞的能力。该基准聚焦高严重性漏洞的发现、修复与攻击三个环节。
OpenAI News精选AI 评分6262 OpenAI 在 ChatGPT 中推出 Lockdown Mode 与 Elevated Risk 标签
OpenAI 在 ChatGPT 中推出 Lockdown Mode 和 Elevated Risk 标签，帮助组织防御提示词注入和 AI 驱动的数据外泄。
推荐理由：OpenAI 为 ChatGPT 增加 Lockdown Mode 与 Elevated Risk 标签，用于应对提示词注入和数据外泄风险。