Hugging Face PEFT 新增多种 LoRA 适配器合并方法
Hugging Face 在 PEFT 中新增面向 LoRA 适配器的合并方法，包括 cat、linear、svd、ties、dare 和 magnitude_prune 等，可通过 add_weighted_adapter() 调用。
#产品更新
#产品更新
今日 8 条Hugging Face BlogAI 评分5757
OpenAI News精选AI 评分7272 OpenAI 为 ChatGPT 测试记忆功能与新的控制选项
OpenAI 正在测试 ChatGPT 记住用户讨论内容的能力，以便让后续对话更有帮助。用户对 ChatGPT 的记忆拥有控制权。
推荐理由：OpenAI 开始测试 ChatGPT 记忆功能，读者可了解其能力边界与用户控制方式。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 TGI 推出兼容 OpenAI 的 Messages API
Hugging Face 为 Text Generation Inference（TGI）和 Inference Endpoints 推出 Messages API，从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口，可直接配合 OpenAI 客户端库、LangChain 或 LlamaIndex 使用。
推荐理由：TGI 新增 OpenAI 兼容的 Messages API，读者可据此判断现有 OpenAI 脚本迁移到开源模型的改造成本。
Hugging Face Blog精选AI 评分6262 SegMind 发布 SegMoE：从零构建混合专家扩散模型框架
SegMind 发布 SegMoE 框架，可从零创建混合专家（MoE）扩散模型，并已集成进 Hugging Face diffusers 生态。同时发布 SegMoE-4x2、SegMoE-2x1 和 SegMoE-SD4x2 三个模型（Apache 2.0 许可）以及配套 GitHub 仓库，用户通过 config.yaml 即可组合任意数量的模型，几分钟内完成构建。
推荐理由：原文给出从零构建扩散模型 MoE 的完整流程与显存代价，读者可据此判断本地部署门槛。
Hugging Face BlogAI 评分4242 Hugging Face Text Generation Inference 上线 AWS Inferentia2 与 Amazon SageMaker
Hugging Face Text Generation Inference（TGI）正式在 AWS Inferentia2 和 Amazon SageMaker 上全面可用，为生产级 LLM 部署提供 GPU 之外的替代方案。
OpenAI NewsAI 评分2020 OpenAI 助力 Digital Green 构建农民农业数据库
Digital Green 利用 OpenAI 技术为农民构建农业数据库，以提高农民收入。
OpenAI News精选AI 评分7878 OpenAI 推出 GPT Store
OpenAI 发布 GPT Store。
OpenAI News精选AI 评分6262 OpenAI 推出 ChatGPT Team 团队版
OpenAI 推出面向各类规模团队的 ChatGPT 新套餐 ChatGPT Team，提供安全、可协作的工作空间，帮助团队在工作中充分利用 ChatGPT。
推荐理由：OpenAI 面向各类规模团队推出 ChatGPT 团队版，提供安全协作工作空间，可据此了解其企业协作定位。
Hugging Face Blog精选AI 评分7272 Unsloth 与 TRL 集成：LLM 微调提速 2 倍、显存降低 40%
Hugging Face 博客介绍社区开发的轻量库 Unsloth，与 transformers、PEFT、TRL 完全兼容，可将 LLM 微调速度提升约 2 倍、显存占用降低约 40%，且相对标准 QLoRA 精度损失为 0%。
推荐理由：原文给出 Unsloth 与 TRL 集成的实测加速与显存数据，读者可据此判断微调成本能降到什么程度。
OpenAI NewsAI 评分2222 WHOOP 用 GPT-4 提供个性化健身与健康指导
WHOOP 借助 GPT-4 为用户提供个性化的健身与健康指导。该功能面向 LLM 驱动的健康解决方案场景，将 GPT-4 的能力接入 WHOOP 的健康教练服务中。
OpenAI NewsAI 评分2222 Summer Health 借助 OpenAI 提升儿科就诊记录准确率
Summer Health 利用 OpenAI 技术重新构想儿科就诊流程，以提升儿科就诊记录的准确率。
Mistral AI精选AI 评分7878 Mistral AI 开放 La Plateforme 平台测试，提供三个对话端点与嵌入端点
Mistral AI 开放首个平台服务 La Plateforme 的 beta 访问，提供三个对话端点和嵌入端点，各有不同性能价格取舍。
推荐理由：Mistral AI 开放首个平台服务测试，给出三个对话端点和嵌入端点的性能价格取舍，可据此判断其早期 API 能力边界。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Optimum-NVIDIA，一行代码加速 LLM 推理
Hugging Face 发布 Optimum-NVIDIA 推理库，只需把 transformers 的 pipeline 导入改成 optimum.nvidia 一行代码，即可在 NVIDIA 平台上获得最高 28 倍吞吐和 1200 tokens/秒，首 token 延迟最高降低 3.3 倍。
推荐理由：原文给出单行代码替换即可获得最高 28 倍吞吐的量化数据，读者可据此判断现有 LLaMA 推理流程的改造成本。
Hugging Face BlogAI 评分5757 Hugging Face 与 AMD 实现 AMD GPU 开箱即用的大模型加速
Hugging Face 与 AMD 公布合作进展，Transformers 模型无需改动代码即可在 AMD Instinct GPU 上运行，并已支持 Flash Attention v2、Paged Attention、DeepSpeed、GPTQ 等加速与量化方案。
Hugging Face Blog精选AI 评分8080 Hugging Face 发布 LCM LoRA，SDXL 4 步即可出图
Hugging Face 发布 Latent Consistency LoRA（LCM LoRA），通过训练少量 LoRA 适配层而非蒸馏整个模型，让 SDXL 和 Stable Diffusion 从原本 25 到 50 步降到 4 到 8 步完成出图。
推荐理由：LCM LoRA 把 SDXL 推理从 25 步压到 4 步，并给出各硬件实测速度，可据此判断生成工作流的改动空间。
Hugging Face BlogAI 评分2222 Explosion 推出 Prodigy-HF：与 Hugging Face 直接集成
Explosion 发布 Prodigy-HF 插件，让 Prodigy 标注工具直接集成 Hugging Face 生态。
OpenAI News精选AI 评分8282 OpenAI 发布 GPTs，可创建自定义版 ChatGPT
OpenAI 发布 GPTs，用户现在可以创建自定义版本的 ChatGPT，将指令、额外知识和任意技能组合在一起。
推荐理由：OpenAI 官方发布 GPTs，读者可据此了解 ChatGPT 从通用对话走向可自定义智能体的入口变化。
Hugging Face BlogAI 评分2626 Hugging Face Hub 推出存储区域功能
Hugging Face 面向 Enterprise Hub 客户推出 Storage Regions，可指定组织模型和数据集的存储位置，目前支持 US 和 EU，亚太区即将上线。该功能用于满足监管与法律合规（如 GDPR）需求，并提升性能：欧洲用户将仓库存于 EU 区域时，上传和下载速度约为存于 US 的 4-5 倍。非默认位置的仓库会直接显示 Region 标签。
OpenAI News精选AI 评分7575 DALL·E 3 在 ChatGPT Plus 和 Enterprise 上线
OpenAI 宣布 DALL·E 3 现已在 ChatGPT Plus 和 Enterprise 中可用。为准备更广泛发布，OpenAI 开发了一套安全缓解措施，并同步分享了其来源溯源研究的最新进展。
推荐理由：DALL·E 3 面向 ChatGPT Plus 和 Enterprise 开放，读者可了解其安全缓解措施与来源溯源研究。
Hugging Face Blog精选AI 评分6262 Gradio-Lite 发布：完全在浏览器中运行的无服务器 Gradio
Hugging Face 发布 @gradio/lite，一个借助 Pyodide 让 Gradio 应用直接在浏览器中运行的 JavaScript 库，无需服务器端基础设施。
推荐理由：官方博客给出 Gradio-Lite 的完整用法与限制，读者可据此判断无服务器部署 Gradio 应用的可行边界。
OpenAI NewsAI 评分1818 Ironclad 用 GPT-4 简化合同审查流程
Ironclad 利用 GPT-4 简化合同审查流程。
OpenAI NewsAI 评分4040 Typeform 用 GPT-3.5 和 GPT-4 将在线表单升级为动态数据收集
Typeform 借助 GPT-3.5 和 GPT-4，将在线表单升级为动态、对话式的数据收集体验。
OpenAI NewsAI 评分2222 Retool 用 GPT-4 为企业构建 AI 应用
Retool 利用 GPT-4 为企业提供快速、安全的 AI 应用构建方式。
Hugging Face BlogAI 评分3838 ONNX Runtime 加速 Hugging Face 超 13 万个模型
Hugging Face 上已有超过 13 万个支持 ONNX 的模型可借助 ONNX Runtime 加速，覆盖 BERT、GPT2、T5、Whisper、Stable-Diffusion 等 90 多种模型架构。以 whisper-tiny 为例，使用 ONNX Runtime 后单次推理平均延迟相比 PyTorch 最高提升 74.30%。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 tokenizer 引入 chat_template 属性
Hugging Face 的 tokenizers 新增 chat_template 属性，用 Jinja 模板保存模型训练时使用的对话格式，把消息列表转换成正确格式的字符串。
推荐理由：Hugging Face 把聊天格式从硬编码改为随 tokenizer 保存的 Jinja 模板，读者可据此理解格式错配为何会静默拖垮模型表现。
OpenAI News精选AI 评分8080 ChatGPT 新增看、听、说能力
OpenAI 宣布 ChatGPT 新增看、听、说能力，可处理图像与语音输入并语音回复。
Hugging Face BlogAI 评分4242 Hugging Face 为 PRO 用户推出 Inference 服务，开放 Llama 3、Mixtral 等模型 API
Hugging Face 为 PRO 用户推出 Inference 服务，提供精选模型的专属 API 端点，由 text-generation-inference 驱动，并提升免费 Inference API 的速率限制。
Hugging Face BlogAI 评分3636 SafeCoder 与闭源代码助手对比：Hugging Face 企业级代码助手解析
Hugging Face 发布企业级代码助手 SafeCoder，基于 155 亿参数的 StarCoder 开源模型，支持 80 多种编程语言和 8192 token 上下文窗口。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 SDXL 带来 T2I-Adapter 可控生成支持
Hugging Face Diffusers 团队与 T2I-Adapter 作者合作，在 diffusers 中为 Stable Diffusion XL 加入 T2I-Adapter 支持，并发布 sketch、canny、lineart、depth、openpose 五种条件的预训练 checkpoint。
推荐理由：Diffusers 团队与 T2I-Adapter 作者合作把 SDXL 可控生成接入 diffusers，并给出与 ControlNet 的参数量对比。
OpenAI NewsAI 评分3838 OpenAI 发布《Teaching with AI》教师使用 ChatGPT 指南
OpenAI 发布面向教师的 ChatGPT 课堂使用指南，包含推荐提示词、ChatGPT 工作原理与局限说明、AI 检测工具有效性以及偏见问题。
OpenAI News精选AI 评分8282 OpenAI 推出 ChatGPT Enterprise
OpenAI 发布 ChatGPT Enterprise，提供企业级安全与隐私保护，并称其为目前能力最强的 ChatGPT 版本。
推荐理由：OpenAI 官方发布面向企业的 ChatGPT 版本，读者可据此了解其安全隐私定位与能力版本信息。
Hugging Face Blog精选AI 评分6262 Hugging Face 将 AutoGPTQ 集成进 Transformers，支持 8/4/3/2-bit 量化
Hugging Face 把 AutoGPTQ 库集成进 Transformers，用户可用 GPTQ 算法以 8、4、3 甚至 2-bit 精度量化和运行大语言模型，4-bit 量化精度损失可忽略，小批量下推理速度与 fp16 基线相当。
推荐理由：Hugging Face 官方说明 GPTQ 量化接入 Transformers 的用法与显存收益，可据此判断本地部署大模型的成本变化。
OpenAI News精选AI 评分6262 OpenAI 开放 GPT-3.5 Turbo 微调
OpenAI 宣布开发者现在可以自带数据对 GPT-3.5 Turbo 进行微调，以适配自身用例。该更新与 API 调整一同发布。
推荐理由：OpenAI 开放 GPT-3.5 Turbo 微调，开发者可用自有数据定制模型，是当时最直接的定制入口变化。
Hugging Face BlogAI 评分5555 Hugging Face 发布企业级自托管代码助手 SafeCoder
Hugging Face 发布 SafeCoder，一款面向企业的自托管代码助手商业解决方案，代码在训练和推理阶段都不离开客户 VPC。
OpenAI NewsAI 评分4040 OpenAI 使用 GPT-4 进行内容审核
OpenAI 将 GPT-4 用于内容政策制定和内容审核决策，可实现更一致的标注、更快的政策优化反馈循环，并减少人工审核员的参与。
Hugging Face BlogAI 评分2222 Hugging Face Hub 上线 AWS Marketplace，可用 AWS 账户付费
Hugging Face Hub 已上线 AWS Marketplace，用户可通过 AWS 账户直接支付 Hugging Face 使用费用。订阅后，Inference Endpoints、Spaces Hardware Upgrades 和 AutoTrain 等服务的组织用量费用将自动计入 AWS 账单，价格与 Hugging Face 公开定价一致。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Swift Transformers，在 Apple 设备上运行端侧 LLM
Hugging Face 发布 swift-transformers Swift 包及配套工具，让开发者能在 Mac 和 iOS 设备上用 Core ML 运行 Llama 2、Falcon 等大语言模型。
推荐理由：Hugging Face 放出在 Apple 设备本地跑 Llama 2 的 Swift 工具链，读者可据此判断端侧大模型的落地路径。
Hugging Face BlogAI 评分2626 Huggy Lingo：用机器学习改进 Hugging Face Hub 数据集的语言元数据
Hugging Face 用机器学习为 Hub 上缺少语言元数据的数据集自动检测语言，并借助 librarian-bots 提交 PR 补充元数据。目前 Hub 约 5 万个公开数据集中仅约 13% 标注了语言，约 87% 未标注。
Hugging Face Blog精选AI 评分6262 Segmind 开源 SD-Small 与 SD-Tiny 知识蒸馏代码和权重
Segmind 开源了压缩扩散模型 SD-Small 和 SD-Tiny 的权重与蒸馏训练代码，两者参数量分别比基础模型少 35% 和 55%，图像保真度接近基础模型。
推荐理由：Segmind 开源了 SD-Small 与 SD-Tiny 的蒸馏代码和权重，读者可据此了解压缩扩散模型的训练方法与推理加速幅度。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Agents.js：用 JavaScript 为 LLM 提供工具调用能力
Hugging Face 在 huggingface.js 下发布 Agents.js，一个可在浏览器或服务端用 JavaScript 为 LLM 提供工具访问的新库，通过 npm install @huggingface/agents 安装。
推荐理由：Hugging Face 官方开源 Agents.js，给出从安装到自定义工具与模型的完整用法，可据此判断如何为 LLM 接入工具。