OpenAI 网络安全资助计划:赋能防御者推进 AI 安全研究
OpenAI 公布网络安全资助计划,聚焦网络安全领域的创新研究与 AI 集成。该计划旨在赋能防御者,推动 AI 技术在安全防护中的应用。
OpenAI 公布网络安全资助计划,聚焦网络安全领域的创新研究与 AI 集成。该计划旨在赋能防御者,推动 AI 技术在安全防护中的应用。
视觉沟通软件公司 Prezi 加入 Hugging Face Expert Support Program,将更小、更高效的开放模型整合进其 ML 工作流。其旗舰产品 Prezi AI 通过提示词自动生成演示草稿,专家建议在检索流程中加入开源 re-ranker 模型,以更低成本、更快速度找到最佳图文素材。
OpenAI 任命退役美国陆军上将 Paul M. Nakasone 加入董事会,他将同时加入董事会的安全与安保委员会。Nakasone 为这一持续扩大的董事会带来网络安全领域的经验。
OpenAI 与 Apple 宣布建立合作,将把 ChatGPT 集成到 Apple 的各项体验中。
推荐理由:OpenAI 与 Apple 宣布合作,读者可了解 ChatGPT 将进入 Apple 生态这一关键商业动向。
OpenAI 宣布 Sarah Friar 出任首席财务官(CFO),Kevin Weil 出任首席产品官(CPO)。Sarah Friar 此前任 Nextdoor CEO,Kevin Weil 则来自 Planet Labs。
Mistral AI 于 6 月 5 日至 30 日举办线上微调黑客松,参赛项目必须使用其全新的微调 API。前三名各获 2500 欧元 Mistral API 额度,入选者可申请 100 美元免费额度,需在 6 月 10 日前提交表单。评审按影响力、技术实现、创意和展示各占 25% 打分,团队最多 4 人。
Hugging Face 本周检测到 Spaces 平台遭未授权访问,涉及 Spaces secrets,怀疑部分密钥可能被未经授权读取,已撤销相关 HF token 并邮件通知受影响用户。
推荐理由:官方披露 Spaces 密钥遭未授权访问及处置措施,可了解平台安全策略的调整方向。
The Atlantic 宣布与 OpenAI 达成战略内容与产品合作,成为 OpenAI 体系内的优质新闻来源。The Atlantic 的文章将可在 ChatGPT 等 OpenAI 产品中被发现,作为合作方,The Atlantic 还将参与塑造未来实时发现产品中新闻的呈现方式。
OpenAI 与 Vox Media 达成一项多层面合作协议,Vox Media 的内容将用于增强 ChatGPT 的输出,同时 Vox Media 将基于 OpenAI 的技术开发产品,以更好地服务其受众和广告主。
OpenAI 与 News Corp 宣布达成一项多年期全球合作伙伴关系,将把 News Corp 的优质新闻内容引入 OpenAI 的生成式 AI 产品与平台。
Hugging Face 与微软在 Microsoft Build 上宣布深化战略合作,将 Llama 3、Mistral 7B、Command R Plus、Qwen 1.5 110B 等热门开源大模型加入 Azure 模型库的 Hugging Face Collection,支持从 Azure AI Studio 一键部署。
OpenAI 与 Reddit 达成合作,将 Reddit 的独特内容引入 ChatGPT 及 OpenAI 旗下产品。
OpenAI 宣布 Ilya Sutskever 将离开公司,同时任命 Jakub Pachocki 为首席科学家。
OpenAI 推出新技术,帮助研究人员识别由其工具生成的内容,同时加入内容来源与真实性联盟(C2PA)指导委员会以推动行业标准。
OpenAI 发布 Media Manager,面向创作者和内容所有者,用于管理其作品在 AI 训练与使用中的相关事宜。这是 OpenAI 在 ChatGPT 上线一年多后,对 AI 时代数据问题给出的应对方案之一,同时阐述了其在数据与 AI 方面的整体思路及后续方向。
Stack Overflow 与 OpenAI 宣布达成 API 合作,将这一技术知识平台与 OpenAI 的大语言模型结合,为开发者提供支持。Stack Overflow 称其拥有全球领先的高技术内容知识平台,OpenAI 则拥有最受欢迎的 AI 开发 LLM 模型。
OpenAI 封禁了一批与源自中国的"Spamouflage"影响力行动相关的账号,这些账号利用 AI 研究社交媒体活动、生成帖文,并为一个此前未被报道的网站进行调试。
OpenAI 封禁了一批与一个此前未报告的俄罗斯来源操作相关的账号,该操作被命名为“Bad Grammar”。这些账号利用 AI 在 Telegram 上生成英语和俄语评论,内容涉及乌克兰、摩尔多瓦、波罗的海地区及美国政治。
推荐理由:OpenAI 披露一起此前未报告的俄罗斯相关账号操作,读者可了解平台对 AI 生成政治评论的处置方式。
OpenAI 封禁了一批与一项此前未被报道的以色列来源影响力行动关联的账号,该行动被其命名为 Zero Zeno。这些账号使用 AI 生成反哈马斯、反卡塔尔、亲以色列、反印度人民党以及亲以色列总工会的内容。
推荐理由:OpenAI 披露封禁一批与以色列相关影响力行动关联的账号,可了解平台对 AI 滥用账号的处置口径。
OpenAI 与《金融时报》达成合作,将这家媒体的新闻内容带入 ChatGPT,双方还将为 FT 读者共同开发新的 AI 体验。
OpenAI 正致力于加速救命疗法的开发。
Ryght 正式公开发布面向医疗与生命科学领域的生成式 AI 平台 Ryght Preview,并向生命科学知识工作者免费开放。
OpenAI 宣布在亚洲开设首个办公室,落地日本,并同步发布一款针对日语优化的 GPT-4 定制模型。
Klarna 的 AI 助手承担了相当于 700 名全职客服的工作量,用于革新个性化购物、客户服务与员工生产力。
Hugging Face 宣布与云安全公司 Wiz 合作提升其平台及 AI/ML 生态的安全性,Wiz 研究团队通过 pickle 在沙箱计算环境中运行任意代码,发现了平台的安全缺陷,目前所有相关漏洞均已修复。Hugging Face 已将 Wiz 用于漏洞管理和云安全态势管理(CSPM),并基于其工具实现对 Spaces 等产品检测问题的自动修复。
Harvey 与 OpenAI 合作,为法律从业者打造了一款定制训练的模型。
Oscar 将 AI 引入医疗保险业务,用于降低保险成本并改善患者护理。该合作由 OpenAI 提供技术支持,具体模型版本、参数规模及可用性细节未在原文中披露。
JetBrains 使用 OpenAI 的 API 打造了其史上增长最快的产品。
Salesforce 集成 OpenAI 的企业级大语言模型,用于改造其客户应用。此次集成强调企业就绪的信任与安全能力。
OpenAI 与 Le Monde 和 Prisa Media 两家国际新闻机构达成合作,将法语和西班牙语新闻内容引入 ChatGPT。
Healthify 与 OpenAI 合作,通过 AI 健康教练帮助数百万用户实现可持续减重。该合作旨在改善用户健康状况,借助 AI 提供个性化健康指导。
OpenAI 宣布审查已完成,Altman 与 Brockman 将继续领导公司,同时任命新的董事会成员并引入治理结构方面的改进。
推荐理由:OpenAI 公布审查结论并调整董事会与治理结构,读者可据此了解其管理层与治理安排的变化。
OpenAI 宣布 Sue Desmond-Hellmann 博士、Nicole Seligman 和 Fidji Simo 加入董事会,Sam Altman 同时重新加入董事会。
OpenAI 就与 Elon Musk 的纠纷表态,称其始终致力于 OpenAI 的使命,并在每一步都坚持追求这一使命。
AMD 与 Hugging Face 联合启动 Pervasive AI Developer Contest,设生成式 AI、机器人 AI 和 PC AI 三个赛道,总奖金 16 万美元,单个获奖者最高可得 1 万美元,并提供 700 个 AMD 平台供参赛者使用。
Hugging Face 宣布与 Google Cloud 建立战略合作,围绕开放科学、开源、云与硬件展开协作,帮助企业在 Hugging Face 开放模型与 Google Cloud 的 Vertex AI、TPU 等基础设施上构建自己的 AI。
OpenAI 公布了其"民主输入 AI"资助计划的结果,该计划资助了来自全球的 10 支团队,用于设计集体治理 AI 的想法和工具。OpenAI 总结了这些团队的创新成果与自身经验,并呼吁研究人员和工程师加入后续工作。
OpenAI 就《纽约时报》提起的诉讼作出回应,称该诉讼缺乏依据,同时表示支持新闻业并与新闻机构保持合作。
OpenAI 启动总额 1000 万美元的 Superalignment Fast Grants,资助面向超人类 AI 系统对齐与安全的技术研究。资助方向包括弱到强泛化、可解释性、可扩展监督等。
OpenAI 与 Axel Springer 达成合作,后者成为全球首家与 OpenAI 深度整合新闻业与 AI 技术的出版机构。双方将推动 AI 在新闻领域的良性应用。