OpenAI 封禁利用 AI 开发恶意软件的俄语账号
OpenAI 封禁了一批俄语账号，这些账号利用 AI 构建恶意软件、改进 loader 并排查网络工具问题。相关行动代号为 "ScopeCreep"。
#政策/监管
#政策/监管
今日 1 条OpenAI NewsAI 评分4242 OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 生成批评台湾网红帖文的账号
OpenAI 封禁了一批利用 AI 生成帖文、批评一名台湾社交媒体网红及相关美国话题的账号。该行动被命名为“Sneer Review”，涉及中国来源的影响力活动。
OpenAI NewsAI 评分5050 OpenAI 封禁利用 AI 生成德语政治内容的俄罗斯相关账号
OpenAI 封禁了一批疑似源自俄罗斯的账号，这些账号使用 AI 生成关于乌克兰、NATO 及德国国内议题的德语政治内容。相关行动被命名为“Helgoland Bite”。
OpenAI NewsAI 评分2222 OpenAI 就 AI 基础设施回应美国能源部
OpenAI 就 AI 基础设施议题回应美国能源部，强调基础设施决定命运，并阐述美国应如何把握这一机遇。
OpenAI NewsAI 评分4242 OpenAI 推出 OpenAI for Countries 计划
OpenAI 发起 OpenAI for Countries 新计划，支持希望基于民主 AI 基础设施进行建设的国家。该计划面向全球有意采用民主 AI rails 的国家提供支持。
OpenAI NewsAI 评分4040 OpenAI 更新 Preparedness Framework
OpenAI 发布更新版 Preparedness Framework，用于衡量并防范前沿 AI 能力带来的严重危害。该框架聚焦前沿 AI 能力可能造成的严重风险，并给出相应的测量与防护方法。
OpenAI NewsAI 评分2222 OpenAI 发布欧盟经济蓝图
OpenAI 发布欧盟经济蓝图，提出一套政策建议，旨在帮助欧洲把握人工智能机遇、推动区域可持续经济增长，并确保 AI 由欧洲、在欧洲、为欧洲开发和部署。
OpenAI NewsAI 评分2020 OpenAI 对英国版权咨询的回应
OpenAI 就英国版权咨询提交回应，提出有利于创新的政策建议，目标是帮助英国成为欧洲的 AI 之都。
Hugging Face BlogAI 评分2222 Hugging Face 向白宫 AI 行动计划 RFI 提交回应：力挺开源与开放科学
Hugging Face 于 3 月 14 日向白宫 OSTP 的 AI 行动计划 RFI 提交回应，主张开放 AI 系统与开放科学是提升性能、采用率和安全性的基础。
OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 干预加纳 2024 大选的账号
OpenAI 封禁了一批利用 AI 生成文章、帖子和虚假互动、围绕加纳 2024 年总统选举开展秘密影响力行动的账号。
OpenAI NewsAI 评分5050 OpenAI 封禁疑似中国来源的 AI 影响力运营账号
OpenAI 封禁了一批疑似中国来源的账号，这些账号利用 AI 生成英文社交帖子和西班牙语文章。该行动被命名为“Sponsored Discontent”。
OpenAI NewsAI 评分5050 OpenAI 封禁疑似中国来源账号：利用 AI 起草监控工具方案
OpenAI 封禁了一批疑似中国来源的账号，这些账号利用 AI 起草监控工具推销方案、分析文档并调试代码。
OpenAI NewsAI 评分4242 OpenAI 封禁与伊朗相关的影响力行动账号
OpenAI 封禁了一批与伊朗关联的账号，这些账号利用 AI 生成与 IUVM 和 STORM-2035 影响力行动相关的文章和社交帖子。
Hugging Face BlogAI 评分3636 开源开发者指南：欧盟 AI 法案（EU AI Act）要点解读
Hugging Face 发布开源开发者指南，解读已正式生效的欧盟 AI 法案。法案按风险分级监管，仅通用目的 AI（GPAI）模型被直接监管，训练算力超 10^25 FLOPs 的模型被归为系统性风险；有限风险系统需向用户披露其正在与 AI 交互。Hugging Face 提供模型卡、数据集卡、Gradio 水印、退出机制与个人数据脱敏等工具帮助开发者准备合规。
OpenAI NewsAI 评分5858 OpenAI 封禁俄罗斯来源的 Stop News 影响活动账号
OpenAI 封禁了一批俄罗斯来源的 Stop News 账号，这些账号使用 AI 生成多语言文章和帖子，针对乌克兰和西方国家。该行动属于 OpenAI 对恶意使用 AI 的处置。
OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 起草针对越南公众人物的滥用举报账号
OpenAI 封禁了一批利用 AI 起草滥用举报和投诉的账号，这些举报针对越南公众人物和平台。
OpenAI NewsAI 评分3838 OpenAI 封禁卢旺达选举前使用 AI 生成党派评论的账号
OpenAI 封禁了一批源自卢旺达的账号，这些账号在该国选举前使用 AI 生成党派性评论内容。
OpenAI NewsAI 评分3838 OpenAI 封禁利用 AI 生成多语言影响力内容的“A2Z”账号网络
OpenAI 封禁了名为“A2Z”的账号网络，这些账号利用 AI 生成涉及选举、乌克兰和政治的多语言影响力内容，并发布到多个平台。
OpenAI NewsAI 评分5555 OpenAI 封禁伊朗来源 STORM-2035 账号，其用 AI 生成美英选举内容
OpenAI 封禁了伊朗来源的 STORM-2035 账号，这些账号利用 AI 生成美国和英国选举相关内容并发布到多个网站。
OpenAI NewsAI 评分4242 OpenAI 打击隐蔽影响行动中的 AI 欺骗性使用
OpenAI 已封禁与隐蔽影响行动相关的账号，并称这些账号未因使用其服务获得显著受众增长。该行动针对的是 AI 的欺骗性使用，而非正常内容创作。
Mistral AI精选AI 评分6262 Mistral AI 推出非生产许可证 MNPL，Codestral 率先采用
Mistral AI 发布 Mistral AI 非生产许可证（MNPL），允许开发者将技术用于非商业用途并支持研究工作，要求基于其成果开展商业业务的一方以公平可持续的方式合作。同日发布的 Codestral 采用该许可证。Mistral 表示仍会继续以 Apache 2.0 发布模型和代码，并逐步整合 Apache 2.0 与 MNPL 两条产品线。
推荐理由：Mistral 推出非生产许可证，读者可据此理解开源模型厂商在开放与商业化之间的授权取舍。
OpenAI NewsAI 评分1818 OpenAI 谈数据与 AI：推出面向创作者和内容方的 Media Manager
OpenAI 发布 Media Manager，面向创作者和内容所有者，用于管理其作品在 AI 训练与使用中的相关事宜。这是 OpenAI 在 ChatGPT 上线一年多后，对 AI 时代数据问题给出的应对方案之一，同时阐述了其在数据与 AI 方面的整体思路及后续方向。
OpenAI NewsAI 评分4040 OpenAI 封禁伊朗相关影响力账号网络 IUVM
OpenAI 封禁了与伊朗背景行动"IUVM"相关的账号，该网络利用 AI 生成并翻译亲伊朗、反以色列和反美的网站内容。
OpenAI NewsAI 评分3838 OpenAI 封禁俄罗斯"Doppelganger"行动相关账号
OpenAI 封禁了与俄罗斯背景行动"Doppelganger"相关的账号，该行动利用 AI 生成反乌克兰的社交媒体评论、翻译及网站文案，覆盖多种语言。
OpenAI News精选AI 评分6262 OpenAI 称已阻断国家关联威胁行为者对 AI 的恶意使用
OpenAI 发布公告，称已阻断国家关联威胁行为者对 AI 的恶意使用。原文正文未能获取，仅标题可用。
OpenAI NewsAI 评分2626 OpenAI 如何应对 2024 全球选举
OpenAI 正从三方面应对 2024 年全球选举：防止滥用、为 AI 生成内容提供透明度，并改善选民获取准确投票信息的渠道。
Hugging Face BlogAI 评分1515 Hugging Face 发布 Ethics and Society Newsletter #5：Hugging Face 走进华盛顿与 2023 夏季思考
Hugging Face 发布 Ethics and Society Newsletter #5，回顾其今夏向 E.U.、U.K.、U.S. 立法者提供 AI 价值观与监管建议，包括 CEO Clem 在美国国会作证及 U.S. Senate AI Insight Forum 发言。
Hugging Face BlogAI 评分2222 Hugging Face 联合 Creative Commons、Eleuther AI、GitHub 等就 EU AI Act 提出开源 ML 五项建议
Hugging Face 与 Creative Commons、Eleuther AI、GitHub、LAION、Open Future 联合发布立场文件，就 EU AI Act 提出五项建议。
OpenAI NewsAI 评分3232 OpenAI 与头部实验室以自愿承诺推进 AI 治理
OpenAI 与其他领先实验室通过自愿承诺，强化 AI 的安全、安保与可信度，以此推进 AI 治理。
Hugging Face BlogAI 评分2020 Hugging Face 就美国 NTIA AI 问责政策提交回应意见
Hugging Face 于 6 月 12 日向美国商务部 NTIA 提交 AI 问责政策回应，强调文档规范与透明度对推动 AI 问责的作用。其建议问责机制应覆盖 ML 开发全流程、结合内部要求与外部访问透明，并吸纳开发者、研究社区、倡导组织、政策制定者和记者等广泛参与。
Hugging Face BlogAI 评分2222 Hugging Face 发布新版内容政策与指南
Hugging Face 更新了平台内容政策，以支持开放、协作且负责任的机器学习社区。新政策将“同意”（consent）列为核心价值，重点规范用户内容、身份表达及社区行为，禁止针对用户和 Hugging Face 员工的攻击性或骚扰性语言。平台鼓励通过 Community Tab 公开讨论并协作解决冲突，相关问题可反馈至 feedback@huggingface.co。
Hugging Face BlogAI 评分2222 Hugging Face 入选法国数据保护机构 CNIL 强化支持计划
Hugging Face 被法国数据保护机构 CNIL 选中，入选其强化支持计划。该计划从 40 多个候选企业中选出三家"具有强劲经济发展潜力"的公司，为其提供数据保护职责理解与落实方面的支持。Hugging Face 此前在 BigScience 和 BigCode 项目中已投入隐私风险治理与假名化工具开发。
Hugging Face BlogAI 评分4040 Hugging Face 支持的 OpenRAIL：面向开放且负责任 AI 的许可框架
Hugging Face 支持的 RAIL Initiative 推出 OpenRAIL 许可框架，允许免版税访问、下游使用与再分发 AI 模型及其衍生品，同时嵌入针对特定关键场景的使用限制条款。该框架借鉴 BigScience、开源与 Creative Commons 的做法，主张开源许可不适配 ML 模型的技术特性，需以基于证据的方式划定开放使用与社会风险之间的边界。
Hugging Face BlogAI 评分2222 Hugging Face 就美国国家 AI 研究资源（NAIRR）中期报告提交建议
Hugging Face 于 2022 年 6 月下旬向白宫 OSTP 和 NSF 提交了对 NAIRR 中期报告的回应，建议任命技术与伦理专家担任顾问、制定模型与数据文档标准（如 Model Cards）、为跨学科非技术专家提供低代码或无代码工具（如 AutoTrain），并投入法律专业能力制定 Responsible AI Licenses。
OpenAI NewsAI 评分3838 Cohere、OpenAI 与 AI21 Labs 发布大语言模型部署最佳实践
Cohere、OpenAI 和 AI21 Labs 共同制定了一套适用于任何开发或部署大语言模型组织的初步最佳实践。该实践面向所有从事大语言模型开发与部署的机构。
OpenAI NewsAI 评分3131 OpenAI 参与发布 AI 可验证性多利益相关方报告，提出 10 项机制
OpenAI 参与发布了一份由 30 个机构、58 位合著者共同完成的多利益相关方报告，提出 10 项机制以提升 AI 系统相关声明的可验证性。开发者可借助这些工具证明 AI 系统安全、可靠、公平或保护隐私，用户、政策制定者和公民社会也可据此评估 AI 开发过程。
OpenAI NewsAI 评分2222 OpenAI 为何认为负责任的 AI 发展需要安全合作
OpenAI 发布政策研究论文，提出四项可立即采用的策略以提升 AI 安全规范领域长期行业合作的可能性：沟通风险与收益、技术协作、提高透明度、激励标准。分析指出，行业安全合作对确保 AI 系统安全有益至关重要，但竞争压力可能导致集体行动困境，使 AI 公司对安全投入不足。