Hugging Face 与 VirusTotal 合作，为 Hub 上 220 万公开模型和数据集仓库持续扫描
Hugging Face 宣布与威胁情报和恶意软件分析平台 VirusTotal 合作，即日起对 Hub 上 220 万以上公开模型和数据集仓库进行持续扫描。用户访问仓库或文件页面时，Hub 会自动将文件哈希与 VirusTotal 威胁情报库比对，返回 clean 或 malicious 状态及检测计数等元数据，原始文件内容不会共享给 VirusTotal。
#安全/对齐
#安全/对齐
今日 0 条Hugging Face BlogAI 评分5252
OpenAI NewsAI 评分2222 OpenAI 成立福祉与 AI 专家委员会，指导 ChatGPT 情感健康支持
OpenAI 成立"福祉与 AI 专家委员会"，汇集心理学家、临床医生和研究人员，指导 ChatGPT 如何支持用户情感健康，尤其是青少年群体。该委员会的意见将用于打造更安全、更有温度的 AI 体验。
OpenAI NewsAI 评分2222 OpenAI 如何定义和评估 LLM 的政治偏见
OpenAI 公布了一套面向 ChatGPT 政治偏见的评估方法，通过新的真实世界测试提升客观性并减少偏见。该方法同时给出了 LLM 政治偏见的定义与评估思路。
OpenAI NewsAI 评分2626 OpenAI 2025 年 10 月报告：识别并阻断 AI 恶意使用
OpenAI 发布 2025 年 10 月报告，披露其如何检测和阻断 AI 的恶意使用。报告介绍了 OpenAI 打击滥用行为、执行政策以及保护用户免受现实危害的相关工作。
OpenAI NewsAI 评分5050 OpenAI 封禁利用 AI 支持诈骗的在线欺诈网络账号
OpenAI 封禁了一批与在线欺诈网络相关的账号，这些账号利用 AI 生成诈骗话术、实施冒充、翻译以及诱导受害者互动。
OpenAI NewsAI 评分5050 OpenAI 封禁与 PRC 关联的账号：用于监控与影响力活动
OpenAI 封禁了一批与 PRC 关联的账号，这些账号利用 AI 支持监控相关规划、针对性画像，以及对批评者等人物的研究。
OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 支持钓鱼与脚本编写的账号
OpenAI 封禁了一批账号，这些账号的活动与公开报道的威胁组织存在重叠，并显示出符合中国情报需求的特征，利用 AI 支持钓鱼和脚本编写工作流。
OpenAI NewsAI 评分3838 OpenAI 封禁利用 AI 支持韩语恶意软件开发的账号
OpenAI 封禁了一批韩语账号，这些账号利用 AI 进行恶意软件开发支持、调试、钓鱼和凭证窃取。
OpenAI News精选AI 评分6262 OpenAI 封禁与俄语犯罪团伙关联的账号
OpenAI 封禁了一批可能与俄语犯罪团伙有关的账号，这些账号利用 AI 构建恶意软件加载器、规避层、凭据窃取脚本和 C2 基础设施。
推荐理由：OpenAI 披露封禁与俄语犯罪团伙关联账号，读者可了解 AI 被用于恶意软件工具链的具体环节。
OpenAI NewsAI 评分4242 OpenAI 封禁俄罗斯"Stop News"影响力行动相关账号
OpenAI 封禁了一个源自俄罗斯、代号"Stop News"的行动所关联的账号，该行动利用 AI 生成针对非洲和英国的影响力内容。OpenAI 称其为"累犯"性质的影响力行动。
OpenAI News精选AI 评分6767 OpenAI 发布 Sora 2 与 Sora 应用，强调安全优先
OpenAI 发布 Sora 2 和 Sora 应用，称二者从底层设计上以安全为基础，以应对先进视频模型与新型社交创作平台带来的新安全问题。官方表示其做法建立在具体防护措施之上。
推荐理由：官方说明 Sora 2 与 Sora 应用在安全机制上的设计取向，可了解视频模型与社交创作平台叠加后的防护思路。
OpenAI NewsAI 评分2222 OpenAI 如何打击在线儿童性剥削与虐待
OpenAI 通过严格的使用政策、先进的检测工具和行业协作，打击在线儿童性剥削与虐待，以阻止、举报和预防 AI 被滥用。
OpenAI NewsAI 评分2222 OpenAI 为 ChatGPT 推出家长控制功能
OpenAI 为 ChatGPT 推出家长控制功能，并上线新的家长资源页面，帮助家庭管理 ChatGPT 在家中的使用方式。
OpenAI NewsAI 评分2222 OpenAI 与 AARP 合作，帮助老年人防范网络诈骗
OpenAI 与 AARP 达成合作，通过 OpenAI Academy 和 OATS 的 Senior Planet 项目，为老年人提供 AI 培训、诈骗识别工具和全国性项目，帮助他们安全上网。
Hugging Face Blog精选AI 评分6060 Hugging Face 联合推出 RiskRubric.ai，为模型提供标准化风险评估
Hugging Face 博客宣布 RiskRubric.ai，由 Cloud Security Alliance 和 Noma Security 主导、Haize Labs 与 Harmonic Security 参与，为模型提供标准化风险评估。
推荐理由：RiskRubric.ai 用统一标准给模型打风险分，读者可据此了解开源与闭源模型在安全维度上的差异。
OpenAI News精选AI 评分6060 OpenAI 与 Apollo Research 发布 AI 模型隐藏失配的检测与缓解研究
Apollo Research 与 OpenAI 开发了针对隐藏失配（scheming）的评测方法，在前沿模型的受控测试中发现了与 scheming 一致的行为。团队公开了具体案例，并对一种减少 scheming 的早期方法进行了压力测试。
推荐理由：OpenAI 与 Apollo Research 公开了隐藏失配的评测方法，并给出早期缓解手段的压力测试示例。
OpenAI NewsAI 评分2222 OpenAI 如何平衡青少年的安全、自由与隐私
OpenAI 阐述了其在 AI 使用中平衡青少年安全、自由与隐私的思路。内容围绕如何在保护未成年用户的同时兼顾其使用自由与隐私展开。
OpenAI NewsAI 评分3838 OpenAI 如何在 ChatGPT 中构建年龄预测与家长控制
OpenAI 正在 ChatGPT 中构建年龄预测与家长控制功能，为青少年提供更安全、适龄的使用体验。该功能同时为家庭提供新的管理工具，帮助家长更好地支持孩子使用 ChatGPT。
OpenAI NewsAI 评分2222 OpenAI 与美国 CAISI、英国 AISI 合作构建更安全的 AI 系统
OpenAI 公布了与美国 CAISI 及英国 AISI 合作推进 AI 安全与安保的进展。该合作旨在强化 AI 系统的安全性，具体成果与细节尚未披露。
OpenAI NewsAI 评分2020 SafetyKit 如何用 OpenAI GPT-5 扩展风险智能体
SafetyKit 借助 OpenAI GPT-5 提升内容审核与合规执行能力，在准确率上超越传统安全系统。该方案用于扩展风险智能体，实现更高效的内容安全治理。
OpenAI NewsAI 评分4242 OpenAI 研究：语言模型为何会产生幻觉
OpenAI 新研究解释了语言模型产生幻觉的原因，并指出改进评测方法可以提升 AI 的可靠性、诚实性与安全性。
OpenAI NewsAI 评分3838 OpenAI 为 ChatGPT 构建更实用的体验：家长控制与敏感对话转由推理模型处理
OpenAI 宣布与专家合作，为 ChatGPT 青少年用户加强保护并引入家长控制功能，同时将敏感对话路由至推理模型处理。
OpenAI NewsAI 评分4040 OpenAI 就 Model Spec 征集超 1000 人意见，探索集体对齐
OpenAI 面向全球 1000 多人调查了 AI 应如何行事，并将其观点与自家 Model Spec 进行对比。这项"集体对齐"工作旨在让 AI 默认行为更好地反映多元的人类价值观与视角。
OpenAI News精选AI 评分6060 OpenAI 与 Anthropic 公布联合安全评估结果
OpenAI 与 Anthropic 公布首次联合安全评估的结果，双方互相测试对方模型在失准、指令遵循、幻觉、越狱等方面的表现。评估同时呈现了进展、挑战，以及跨实验室合作的价值。
推荐理由：两家头部实验室互相测试对方模型的对齐与越狱表现，读者可了解跨实验室安全评估的做法与发现。
OpenAI NewsAI 评分2222 OpenAI 谈如何为处于心理或情绪困扰中的用户提供安全支持
OpenAI 发文阐述其对经历心理或情绪困扰用户的安全考量，并说明当前系统的局限以及正在进行的改进工作。
OpenAI NewsAI 评分5858 OpenAI 在 GPT-5 中引入 safe-completions 安全训练方法
OpenAI 在 GPT-5 中采用新的 safe-completions 方法，取代此前的硬拒绝策略，转向以输出为中心的安全训练。该方法旨在同时提升 AI 回复的安全性与有用性，用于处理双用途提示词。
OpenAI NewsAI 评分3838 OpenAI 评估开放权重 gpt-oss 的最坏情况前沿风险
OpenAI 研究发布 gpt-oss 的最坏情况前沿风险，提出"恶意微调"（MFT）方法，尝试通过微调让 gpt-oss 在生物学和网络安全两个领域达到尽可能强的能力。
OpenAI NewsAI 评分88 OpenAI 谈 ChatGPT 的“设计即知识自由”
OpenAI 称 ChatGPT 的设计目标是实用、可信且可适配，让用户能将其打造成自己的工具。该表述以“设计即知识自由”为标题，强调产品在可定制性上的取向。
OpenAI NewsAI 评分3535 OpenAI 研究错误回答训练如何导致模型失准泛化
OpenAI 研究发现，用错误回答训练语言模型会引发更广泛的失准行为，并识别出驱动这一行为的内部特征，该特征可通过极少量微调逆转。
OpenAI NewsAI 评分3030 OpenAI 如何为生物学领域的未来 AI 风险做准备
OpenAI 正在主动评估先进 AI 在生物学和医学领域的能力，并实施防护措施以防止滥用。该公司指出，先进 AI 虽能变革生物学与医学，但也会带来生物安全风险。
OpenAI NewsAI 评分4242 OpenAI 推出对外协调漏洞披露政策
OpenAI 发布对外协调漏洞披露政策（Outbound Coordinated Disclosure Policy），规范其如何负责任地报告第三方软件中的漏洞。该政策强调诚信、协作与大规模主动安全。
OpenAI NewsAI 评分3636 OpenAI 发布 2025 年 6 月 AI 恶意使用报告
OpenAI 发布最新报告，通过案例研究披露其检测和阻止 AI 恶意使用的方式。
OpenAI NewsAI 评分5252 OpenAI 封禁与中国相关网络行动 Vixen 和 Keyhole Panda 的账号
OpenAI 封禁了与公开归因于 PRC 的威胁行为者相关的账号，这些账号利用 AI 辅助漏洞研究、脚本编写、翻译和运营排障。
OpenAI NewsAI 评分4242 OpenAI 封禁利用 AI 生成菲律宾政治评论的账号
OpenAI 封禁了一批利用 AI 在社交平台生成菲律宾政治及公职人员相关评论的账号。这些账号被用于在多个社交平台上批量发布政治评论内容。
OpenAI NewsAI 评分4242 OpenAI 封禁与伊朗相关 STORM-2035 影响力行动关联账号
OpenAI 封禁了与疑似伊朗关联的 STORM-2035 行动相关的账号，该行动利用 AI 生成针对美国、英国、爱尔兰和委内瑞拉政治的影响力内容。
OpenAI NewsAI 评分4848 OpenAI 封禁利用 AI 生成美国政治内容的中国来源账号
OpenAI 封禁了一批中国来源账号，这些账号利用 AI 生成美国政治内容，并研究美国人物、运动及在线社群。
OpenAI NewsAI 评分4242 OpenAI 封禁利用 AI 开发恶意软件的俄语账号
OpenAI 封禁了一批俄语账号，这些账号利用 AI 构建恶意软件、改进 loader 并排查网络工具问题。相关行动代号为 "ScopeCreep"。
OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 生成批评台湾网红帖文的账号
OpenAI 封禁了一批利用 AI 生成帖文、批评一名台湾社交媒体网红及相关美国话题的账号。该行动被命名为“Sneer Review”，涉及中国来源的影响力活动。
OpenAI NewsAI 评分4040 OpenAI 封禁疑似源自柬埔寨的 AI 辅助任务诈骗账号
OpenAI 封禁了一批疑似源自柬埔寨的账号，这些账号利用 AI 支持诈骗流程，目标为英国用户。该行动代号“Wrong Number”，针对的是 AI 辅助的任务型诈骗。
OpenAI NewsAI 评分5050 OpenAI 封禁利用 AI 生成德语政治内容的俄罗斯相关账号
OpenAI 封禁了一批疑似源自俄罗斯的账号，这些账号使用 AI 生成关于乌克兰、NATO 及德国国内议题的德语政治内容。相关行动被命名为“Helgoland Bite”。