Universal Assisted Generation：用任意辅助模型加速解码
Intel Labs 与 Hugging Face 提出 Universal Assisted Generation（UAG），通过双向 tokenizer 转换，让目标模型与任意模型族的辅助模型配对，无需共享 tokenizer。
推荐理由：Intel Labs 与 Hugging Face 提出跨 tokenizer 的辅助生成方法，读者可了解无需同族小模型即可加速推理的思路与实测数据。
全部AI 动态
全部动态
今日 12 条Hugging Face Blog精选AI 评分6262
Hugging Face BlogAI 评分2222 Digital Green 用 LLM-as-a-Judge 强化 Farmer.chat 的 RAG 应用
Digital Green 在 CGIAR 主导的 GAIA 项目中为农业问答机器人 Farmer.chat 搭建了 LLM-as-a-Judge 评测体系，用于评估其 RAG 管线的回答质量。
Hugging Face Blog精选AI 评分6262 Cohere For AI 发布 Aya Expanse 多语言模型，公开完整后训练流程
Cohere For AI 发布 Aya Expanse 系列多语言模型，包含 8B 和 32B 两个参数版本，均以开放权重形式发布。在成对比较中，Aya Expanse 32B 优于 Gemma 2 27B、Mistral 8x22B 和参数量超过其两倍的 Llama 3.1 70B；Aya Expanse 8B 在同参数级别中胜率为 60.4% 至 70.6%。
推荐理由：Cohere For AI 公开了 Aya Expanse 的完整后训练流程，读者可了解多语言模型在数据、偏好训练与模型合并上的具体做法。
OpenAI NewsAI 评分4040 OpenAI 简化并稳定连续时间一致性模型，两步采样媲美扩散模型
OpenAI 简化、稳定并扩展了连续时间一致性模型，仅用两步采样即可达到与领先扩散模型相当的样本质量。
Hugging Face Blog精选AI 评分6565 Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 发布 SynthID Text 文本水印
Google DeepMind 与 Hugging Face 在 Transformers v4.46.0 中发布 SynthID Text，可通过 logits processor 为 AI 生成文本加水印，并用分类器检测。
推荐理由：Google DeepMind 与 Hugging Face 把文本水印做成可直接调用的生成接口，读者可据此了解其配置方式与检测流程。
Hugging Face Blog精选AI 评分6060 Hugging Face 推出 HUGS 生成式 AI 服务，零配置部署开源模型
Hugging Face 发布 Hugging Face Generative AI Services（HUGS），一套零配置的优化推理微服务，用于在自有基础设施上部署开源模型。
推荐理由：HUGS 把开源模型的优化部署从数周压缩到分钟级，并给出兼容 OpenAI API 的迁移路径，适合关注自托管推理成本的团队参考。
Hugging Face BlogAI 评分2222 CinePile 2.0：用对抗式数据集精炼打造更强的长视频问答数据集
Hugging Face 发布 CinePile 2.0 长视频问答数据集，采用其提出的对抗式数据集精炼（adversarial dataset refinement）方法改进数据质量。
OpenAI NewsAI 评分1818 OpenAI 与 Lenfest Institute 的 AI 协作与奖学金计划
OpenAI 与 Lenfest Institute 合作推出 AI Collaborative and Fellowship program，面向新闻行业探索 AI 应用。该项目由 OpenAI 与 Lenfest Institute 共同推进，具体参与方式与资助细节尚未在文中披露。
Hugging Face Blog精选AI 评分6262 dottxt 与 Hugging Face 发布 Outlines-core 0.1.0：用 Rust 重写结构化生成核心算法
dottxt 与 Hugging Face 合作发布 outlines-core，这是 outlines 结构化生成核心算法的 Rust 移植版，0.1.0 的 Python 绑定已上线。
推荐理由：Outlines 核心算法用 Rust 重写并发布 0.1.0，读者可了解结构化生成在速度与可移植性上的变化。
Hugging Face Blog精选AI 评分7878 Transformers.js v3 发布：支持 WebGPU、新量化格式与 120 种架构
Hugging Face 发布 Transformers.js v3，新增 WebGPU 支持，官方称比 WASM 快至多 100 倍，加载模型时设置 device: 'webgpu' 即可启用。
推荐理由：官方给出 WebGPU 加速、量化格式与 1200 多个预转换模型，可据此判断浏览器端推理的落地条件。
Hugging Face BlogAI 评分4040 Hugging Face 与 Protect AI 合作，为 ML 社区提升模型安全
Hugging Face 宣布与 Protect AI 合作，将后者的 Guardian 扫描器集成进平台扫描套件，所有公开模型仓库在推送文件后会自动接受扫描。Guardian 可检测 pickle 及 Keras Lambda 层等格式的任意代码执行漏洞，平台已扫描数亿个文件，并同步改版前端展示扫描结果。
Hugging Face BlogAI 评分3838 Hugging Face 如何在 Inference Endpoints 上部署 Speech-to-Speech
Hugging Face 发布 Speech-to-Speech（S2S）级联流水线，整合 VAD、STT、语言模型与 TTS，支持英语、法语、西班牙语、中文、日语和韩语，可单语言运行或用 auto 标志自动检测语言。
Hugging Face Blog精选AI 评分7272 Diffusers 支持 Stable Diffusion 3.5 Large
Stability AI 发布 Stable Diffusion 3.5，模型已上线 Hugging Face Hub 并可在 Diffusers 中使用，包含 8B 的 Large 模型和 8B 的 timestep-distilled 模型，后者支持 4-8 步少步推理。
推荐理由：原文给出 SD3.5 Large 在 Diffusers 中的推理、量化与 LoRA 训练路径，读者可据此评估消费级显卡上的可用性。
Hugging Face BlogAI 评分3636 Keras 中的 Llama 3.2：从第一天起即可用
Keras 从第一天起就支持 Llama 3.2，可直接从 Hugging Face 的 safetensors checkpoint 加载，包括 3.2 版本，需要转换时即时完成。
OpenAI NewsAI 评分4040 用 OpenAI o1 模型解决复杂问题
OpenAI 展示 o1 推理模型如何帮助解决编程、战略和研究等领域的复杂问题。该视频介绍了 o1 在这些场景中的应用。
Mistral AI精选AI 评分6666 Mistral 发布 Ministral 3B 与 8B 端侧模型
Mistral AI 在 Mistral 7B 发布一周年之际推出两款端侧模型 Ministral 3B 和 Ministral 8B，面向设备端与边缘计算场景。
推荐理由：Mistral 在 7B 发布一周年推出两款端侧小模型，给出定价与许可，可据此判断本地推理的选型空间。
Hugging Face BlogAI 评分4242 Hugging Face 修复 Transformers 梯度累积损失计算问题
Hugging Face 修复了 Transformers Trainer 中梯度累积与全批量训练损失不一致的问题，该问题由 Unsloth 团队报告。修复方案让默认损失函数在梯度累积时按所有非 padding token 总数计算损失，并新增 loss_function 属性与 LOSS_MAPPING，允许用户传入自定义损失函数。用户可从 main 分支安装以获取修复。
OpenAI NewsAI 评分2222 OpenAI 评估 ChatGPT 的公平性
OpenAI 分析了 ChatGPT 如何根据用户姓名做出不同回应，并借助 AI 研究助手保护隐私。该评估聚焦于模型输出中的公平性问题。
OpenAI NewsAI 评分4141 OpenAI 发布 MLE-bench：评估 AI 智能体的机器学习工程能力
OpenAI 推出 MLE-bench，用于衡量 AI 智能体在机器学习工程任务上的表现。该基准测试评估智能体完成机器学习工程工作的能力。
Hugging Face BlogAI 评分4242 AMD 发布第五代 EPYC CPU（Turin）：最高 192 核 384 线程，Llama 3.1 8B 推理吞吐约为 Genoa 2 倍
AMD 发布基于 Zen5 架构的第五代服务器级 EPYC CPU（代号 Turin），最高 192 核 384 线程。
Hugging Face BlogAI 评分4848 Gradio 5 安全审计：Trail of Bits 发现的漏洞已全部修复
Hugging Face 委托 Trail of Bits 对 Gradio 5 完成独立安全审计，发现的漏洞均在 Gradio 5.0 发布前修复并通过验证。
Hugging Face BlogAI 评分3838 Hugging Face 联合 Dask 扩展 AI 数据处理：从 100 行到 2.11 亿行
Hugging Face 与 Dask 结合，用 FineWeb-Edu 分类器处理 FineWeb 数据集，从本地 pandas 的 100 行扩展到云端多 GPU 的 2.11 亿行。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Gradio 5 稳定版
Hugging Face 发布 Gradio 5 稳定版，开发者可用几行 Python 构建生产级机器学习 Web 应用，通过 pip install --upgrade gradio 升级。
推荐理由：Gradio 5 的稳定版发布，列出了 SSR 加载、实时流式与 AI Playground 等面向生产环境的具体改动。
OpenAI NewsAI 评分2929 OpenAI 与 Hearst 达成内容合作
OpenAI 与 Hearst 达成内容合作，将 Hearst 旗下品牌精选的生活方式与本地新闻内容引入 OpenAI 产品。
Hugging Face BlogAI 评分5252 Intel Labs 与 Hugging Face 提出动态推测解码，加速文本生成最高 2.7 倍
Intel Labs 与 Hugging Face 提出动态推测解码（dynamic speculative decoding），根据草稿模型对每个 token 的置信度动态调整推测前瞻长度，最高可加速文本生成 2.7 倍。
Hugging Face BlogAI 评分2222 Hugging Face 如何提升 Hub 上 Parquet 文件的去重效率
Hugging Face 的 Xet 团队针对 Hub 上超 2.2PB 的 Parquet 存储测试了字节级 CDC 去重效果：追加 1 万行可去重 99.1%，仅多占 20MB；但修改一行因列头含绝对偏移量只去重 89%，需额外 230MB，删除一行则使后半文件全部重写。团队提出改用相对偏移量、按行组做内容定义分块两种改进思路，并希望与 Apache Arrow 社区合作落地。
Hugging Face BlogAI 评分3434 Hugging Face 推出 Open FinLLM Leaderboard 金融大模型评测榜
Hugging Face 发布 Open FinLLM Leaderboard，为金融领域大语言模型提供专门评测框架。该榜单覆盖信息抽取、文本分析、问答、文本生成、风险管理、预测和决策七大类任务，采用零样本评测，指标包括 Accuracy、F1、ROUGE 和 MCC。
OpenAI News精选AI 评分6262 OpenAI 发布 ChatGPT 新界面 canvas，用于写作和编码
OpenAI 发布 canvas，一种在 ChatGPT 中写作和编码的新方式。官方称其面向写作与编码场景，具体功能细节尚未在摘要中给出。
推荐理由：OpenAI 官方发布 ChatGPT 的 canvas 界面，读者可了解写作与编码交互方式的变化。
Hugging Face BlogAI 评分2222 中国 AI 出海全球扩张简析：751 家中国 AI 公司、103 家已出海
非凡研究 6 月报告显示，全球 1500 家活跃 AI 公司中有 751 家位于中国，其中 103 家已向海外扩张。腾讯云、华为、阿里等巨头聚焦东南亚与中东的云与 AI 基础设施，字节跳动 7 个月推出 11 款海外应用，CapCut 月活超 3 亿、截至 2024 年 7 月移动端累计收入 1.25 亿美元。
OpenAI NewsAI 评分1010 OpenAI 获新融资以扩大 AI 收益
OpenAI 宣布获得新融资，用于扩大 AI 带来的收益，推进其确保通用人工智能惠及全人类的使命。原文未披露融资金额、投资方及具体用途细节。
OpenAI News精选AI 评分7373 OpenAI 推出 Realtime API
OpenAI 发布 Realtime API，开发者现在可以在自己的应用中构建快速的语音到语音体验。
推荐理由：OpenAI 开放 Realtime API，开发者可据此判断语音交互应用的接入方式与能力边界。
OpenAI News精选AI 评分6262 OpenAI 为微调 API 引入视觉能力
OpenAI 宣布开发者现在可以用图像和文本对 GPT-4o 进行微调，以提升视觉能力。
推荐理由：OpenAI 在微调 API 中加入图像输入，开发者可据此判断视觉微调是否适用于自己的场景。
OpenAI News精选AI 评分6060 OpenAI 在 API 中推出 Prompt Caching
OpenAI 在 API 中推出 Prompt Caching，对模型近期见过的输入自动提供折扣。该功能面向重复使用相同输入前缀的调用场景，具体折扣幅度与使用方式原文未给出。
推荐理由：OpenAI 在 API 中上线提示词缓存，对模型近期见过的输入自动打折，读者可据此评估调用成本变化。
OpenAI NewsAI 评分4040 OpenAI API 中的模型蒸馏
OpenAI 在 API 中推出模型蒸馏功能，可用大型前沿模型的输出微调出高性价比的小模型，全程在 OpenAI 平台上完成。
OpenAI NewsAI 评分2020 Altera 用 GPT-4o 打造智能体与人类协作新场景
Altera 借助 GPT-4o 构建了一个智能体与人类协作的新领域。该方向聚焦于让 AI 智能体与人类协同工作，拓展人机协作的应用空间。
OpenAI NewsAI 评分5252 OpenAI 封禁疑似中国关联的 SweetSpecter 账号
OpenAI 封禁了一批疑似属于中国关联对手 SweetSpecter 的账号，该对手利用 AI 研究漏洞、编写代码并支持鱼叉式钓鱼活动。
OpenAI NewsAI 评分3838 OpenAI 封禁伊朗关联组织 STORM-0817 的账号
OpenAI 封禁了与伊朗关联的 STORM-0817 账号，这些账号利用 AI 调试 Android 恶意软件、抓取社交平台数据并翻译工具。
OpenAI NewsAI 评分3838 OpenAI 封禁与 CyberAv3ngers 关联的账号
OpenAI 封禁了一批疑似属于 CyberAv3ngers 的账号，这些账号利用 AI 研究工业控制系统、默认凭据及攻击目标。该组织被指与伊朗有关联。
OpenAI NewsAI 评分5858 OpenAI 封禁俄罗斯来源的 Stop News 影响活动账号
OpenAI 封禁了一批俄罗斯来源的 Stop News 账号，这些账号使用 AI 生成多语言文章和帖子，针对乌克兰和西方国家。该行动属于 OpenAI 对恶意使用 AI 的处置。
OpenAI NewsAI 评分3333 OpenAI 封禁利用其模型在 X 上发送赌博垃圾链接的账号
OpenAI 封禁了一批通过一家以色列初创公司访问其模型、用于生成对话并在 X 上发送赌博网站链接的账号。这些账号借助该初创公司调用 OpenAI 模型，批量生成内容并推送赌博站点链接。