Hugging Face 详解 Matryoshka 嵌入模型：可截断的多维度嵌入
Hugging Face 发布 Matryoshka 嵌入模型入门博客，介绍这类模型能产出多种维度的可用嵌入，将重要信息前置到靠前的维度，截断后仍能保持性能。
#Hugging Face
#Hugging Face
今日 3 条Hugging Face BlogAI 评分3838 Hugging Face BlogAI 评分3636 Haize Labs 联合 Hugging Face 推出红队抵抗基准排行榜
Haize Labs 在 Hugging Face 团队支持下发布 Red Teaming Resistance Benchmark，系统测试前沿模型在高质量人类越狱攻击下的鲁棒性。
Hugging Face Blog精选AI 评分7878 Google 发布开源大模型 Gemma，Hugging Face 全面集成
Google 发布开源大模型家族 Gemma，包含 2B 和 7B 两种尺寸，各有基础版和指令微调版，上下文长度 8K tokens。Gemma-7B 在 LLM Leaderboard 上得分 63.75，性能与 Mistral 7B 相当。
推荐理由：Google 发布 Gemma 开源模型家族，读者可了解其两种尺寸、基准表现及在 Hugging Face 生态中的部署与微调路径。
Hugging Face BlogAI 评分2828 Hugging Face 与 Upstage 推出 Open Ko-LLM Leaderboard：韩语大模型评测生态
Upstage 于 2023 年 9 月发起 Open Ko-LLM Leaderboard，为韩语大模型提供公开评测平台，采用 Ko-ARC、Ko-HellaSwag、Ko-MMLU、Ko-Truthful QA 和 Ko-CommonGEN V2 五项任务，并使用不公开的私有测试集防止数据污染。
Hugging Face BlogAI 评分5757 Hugging Face PEFT 新增多种 LoRA 适配器合并方法
Hugging Face 在 PEFT 中新增面向 LoRA 适配器的合并方法，包括 cat、linear、svd、ties、dare 和 magnitude_prune 等，可通过 add_weighted_adapter() 调用。
Hugging Face Blog精选AI 评分6262 用开源 LLM 合成数据训练定制模型：成本、延迟与碳排放对比
Hugging Face 博客给出用开源 LLM 生成合成数据、再蒸馏出专用小模型的完整流程，并以金融新闻投资者情绪识别为案例。
推荐理由：用开源 LLM 生成合成数据再蒸馏小模型的完整流程，附可复用 notebook 与成本、延迟、碳排放对比。
Hugging Face BlogAI 评分1717 AMD 与 Hugging Face 联合举办 Pervasive AI 开发者大赛
AMD 与 Hugging Face 联合启动 Pervasive AI Developer Contest，设生成式 AI、机器人 AI 和 PC AI 三个赛道，总奖金 16 万美元，单个获奖者最高可得 1 万美元，并提供 700 个 AMD 平台供参赛者使用。
Hugging Face Blog精选AI 评分6262 Hugging Face 为 TGI 推出兼容 OpenAI 的 Messages API
Hugging Face 为 Text Generation Inference（TGI）和 Inference Endpoints 推出 Messages API，从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口，可直接配合 OpenAI 客户端库、LangChain 或 LlamaIndex 使用。
推荐理由：TGI 新增 OpenAI 兼容的 Messages API，读者可据此判断现有 OpenAI 脚本迁移到开源模型的改造成本。
Hugging Face Blog精选AI 评分6262 SegMind 发布 SegMoE：从零构建混合专家扩散模型框架
SegMind 发布 SegMoE 框架，可从零创建混合专家（MoE）扩散模型，并已集成进 Hugging Face diffusers 生态。同时发布 SegMoE-4x2、SegMoE-2x1 和 SegMoE-SD4x2 三个模型（Apache 2.0 许可）以及配套 GitHub 仓库，用户通过 config.yaml 即可组合任意数量的模型，几分钟内完成构建。
推荐理由：原文给出从零构建扩散模型 MoE 的完整流程与显存代价，读者可据此判断本地部署门槛。
Hugging Face BlogAI 评分2626 Hugging Face 上线 NPHardEval 排行榜：用复杂度类别动态评测 LLM 推理能力
Hugging Face 推出 NPHardEval 排行榜，基于密歇根大学和罗格斯大学研究者开发的 NPHardEval 基准，通过计算复杂度类别评估 LLM 推理能力。
Hugging Face BlogAI 评分2222 Hugging Face 上的 PatchTST 时间序列 Transformer 实战指南
Hugging Face 博客给出 PatchTST 的上手示例，先在 Electricity 数据集上直接训练并评估其预测能力，再用已训练模型对 ETTh1 数据集做零样本预测，随后进行线性探测与微调。
Hugging Face BlogAI 评分4242 Hugging Face Text Generation Inference 上线 AWS Inferentia2 与 Amazon SageMaker
Hugging Face Text Generation Inference（TGI）正式在 AWS Inferentia2 和 Amazon SageMaker 上全面可用，为生产级 LLM 部署提供 GPU 之外的替代方案。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布用开源模型实现 Constitutional AI 的完整配方
Hugging Face 发布了一套用开源模型实现 Constitutional AI（CAI）的端到端配方，并开源了 llm-swarm 工具，用于在 GPU Slurm 集群上基于 TGI 和 vLLM 进行可扩展的合成数据生成。
推荐理由：Hugging Face 给出用开源模型复现 Constitutional AI 的完整配方，含数据集、模型与 Slurm 集群推理工具，可迁移到自定义对齐流程。
Hugging Face BlogAI 评分3636 Hugging Face 与 Patronus 推出 Enterprise Scenarios Leaderboard：面向真实企业用例的 LLM 排行榜
Patronus 团队联合 Hugging Face 发布 Enterprise Scenarios Leaderboard，用于评估语言模型在真实企业场景中的表现。
Hugging Face BlogAI 评分2727 在 Intel Xeon 上用 🤗 Optimum Intel 加速 StarCoder：Q8/Q4 量化与投机解码
Hugging Face 联合 Intel 在第四代 Xeon 上通过 8bit/4bit 量化与辅助生成，让 StarCoder-15B 推理加速超过 7 倍。其中 Q8-StarCoder 在 HumanEval 上精度无损，TTFT 与 TPOT 分别提速约 2.19 倍和 2.20 倍；4bit 权重量化进一步压缩模型体积，相关 demo 已上线 Hugging Face Spaces。
Hugging Face BlogAI 评分3737 Hugging Face 发布 Hallucinations Leaderboard，开放评测大语言模型幻觉
Hugging Face 推出 Hallucinations Leaderboard，用一系列幻觉相关基准评测大语言模型的幻觉问题，并已发布 arXiv 论文。
Hugging Face BlogAI 评分3636 Hugging Face 推出 AI Secure LLM Safety Leaderboard
Hugging Face 发布 LLM Safety Leaderboard，基于 DecodingTrust 对 LLM 安全性进行评估，该平台曾获 NeurIPS 2023 杰出论文奖。
Hugging Face BlogAI 评分4242 Hugging Face 与 Google Cloud 达成战略合作，共建开放 AI 生态
Hugging Face 宣布与 Google Cloud 建立战略合作，围绕开放科学、开源、云与硬件展开协作，帮助企业在 Hugging Face 开放模型与 Google Cloud 的 Vertex AI、TPU 等基础设施上构建自己的 AI。
Hugging Face Blog精选AI 评分6262 开源 LLM 作为 LangChain 智能体：Mixtral 表现超过 GPT-3.5
Hugging Face 在 LangChain 中集成 ChatHuggingFace，让开源模型可直接构建 ReAct 智能体，并发布智能体库 smolagents。
推荐理由：给出 ReAct 智能体的完整实现路径与开源模型对比数据，可据此判断哪些模型适合驱动智能体工作流。
Hugging Face BlogAI 评分3434 用 🤗 Transformers 微调 W2V2-BERT 实现低资源 ASR
Hugging Face 发布教程，演示如何用 🤗 Transformers 微调 facebook/w2v-bert-2.0 完成低资源 ASR。
Hugging Face BlogAI 评分2222 IBM Research 与 Hugging Face 在 Transformers 库中发布 PatchTSMixer
IBM Research 与 Hugging Face 团队合作，在 Transformers 库中发布了轻量级时间序列模型 PatchTSMixer，它基于 MLP-Mixer 架构，支持跨 patch、通道和隐藏特征的混合以及多种注意力机制。
Hugging Face BlogAI 评分3838 用 DPO、IPO 与 KTO 做偏好微调：Hugging Face 的 LLM 对齐方法实证评测
Hugging Face 在 7B 模型上实证评测了 DPO、IPO、KTO 三种无需强化学习的 LLM 对齐方法，扫描 β 等关键超参数并用 MT-Bench 评估。
Hugging Face BlogAI 评分3838 用 ONNX Runtime 和 Olive 加速 SD Turbo 与 SDXL Turbo 推理
Hugging Face 发布经 Olive 优化的 SD Turbo 和 SDXL Turbo 模型，在 NVIDIA GPU 上通过 ONNX Runtime 的 CUDA 与 TensorRT 执行提供程序加速推理，吞吐量最高较 PyTorch 提升 229%（SDXL Turbo）和 120%（SD Turbo）。
Hugging Face Blog精选AI 评分6262 如何在 Hugging Face Spaces 上用 Gradio 免费运行 ComfyUI 工作流
Hugging Face 发布教程，介绍如何把 ComfyUI 工作流转成 Gradio 应用并部署到 Hugging Face Spaces 的 ZeroGPU 上免费运行。
推荐理由：完整给出从 ComfyUI 工作流导出 Python、封装 Gradio 到 ZeroGPU 免费部署的可复用步骤，适合想低成本分享工作流的读者。
Hugging Face BlogAI 评分2727 如何用 Hugging Face 排行榜模板搭建自己的 LLM 排行榜：以 Vectara 幻觉排行榜为例
Vectara 基于 Hugging Face 开源的 leaderboard 模板发布了新版 HHEM 幻觉排行榜，用于评估 GPT-4、Google Gemini、Meta Llama 2 等 LLM 在文档摘要中的幻觉频率。
Hugging Face Blog精选AI 评分7272 Unsloth 与 TRL 集成：LLM 微调提速 2 倍、显存降低 40%
Hugging Face 博客介绍社区开发的轻量库 Unsloth，与 transformers、PEFT、TRL 完全兼容，可将 LLM 微调速度提升约 2 倍、显存占用降低约 40%，且相对标准 QLoRA 精度损失为 0%。
推荐理由：原文给出 Unsloth 与 TRL 集成的实测加速与显存数据，读者可据此判断微调成本能降到什么程度。
Hugging Face BlogAI 评分5757 Hugging Face 发布 aMUSEd：高效非扩散文生图模型
Hugging Face 发布 aMUSEd，这是对 Google MUSE 的开源复现，采用 Masked Image Model（MIM）方法而非常见的潜在扩散路线，以研究预览版和宽松许可证发布。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 SDXL Dreambooth LoRA 进阶训练脚本
Hugging Face 发布新的 diffusers SDXL Dreambooth LoRA 训练脚本，把 Pivotal Tuning 与 Prodigy 优化器结合，并整合文本编码器独立学习率、自定义 caption、Min-SNR gamma、repeats 等社区实践。
推荐理由：汇总 SDXL Dreambooth LoRA 微调的社区最佳实践，并给出可直接运行的 diffusers 训练脚本与参数配置。
Hugging Face Blog精选AI 评分6262 用投机解码让 Whisper 推理提速 2 倍
Hugging Face 博客介绍如何用投机解码将 Whisper 推理速度提升约 2 倍，同时数学上保证输出与单独使用主模型完全一致。
推荐理由：给出 Whisper 投机解码的完整实现与基准数据，读者可据此在现有管线中获得约 2 倍加速且输出不变。
Hugging Face BlogAI 评分3636 2023：开源大语言模型之年
Hugging Face 回顾 2023 年开源 LLM 进展，指出公众对开源与闭源模型的讨论已触及广泛受众。2022 年的开源模型仍延续规模竞赛，如 176B 参数的 BLOOM、175B 参数的 OPT 和 GLM-130B，而 2023 年转向对数据的重视。
Hugging Face Blog精选AI 评分6262 Hugging Face 详解混合专家模型 MoE
Hugging Face 发布《Mixture of Experts Explained》，以 Mixtral 8x7B 发布为背景，系统讲解 MoE 的构成、训练与推理权衡。
推荐理由：系统梳理 MoE 的构成、训练与推理权衡，并给出并行与部署的实践取舍，适合理解稀疏模型工程细节。
Hugging Face Blog精选AI 评分8282 Mixtral 8x7B 发布并集成进 Hugging Face 生态
Mistral 发布 Mixtral 8x7B，采用 Mixture of Experts 架构，在多项基准上超过 Llama 2 70B 并追平或超过 GPT-3.5，以 Apache 2.0 许可开放。
推荐理由：Hugging Face 官方给出 Mixtral 在生态内的完整接入路径，读者可据此判断 MoE 模型的部署与微调成本。
Hugging Face BlogAI 评分3434 SetFitABSA：用 SetFit 实现少样本方面级情感分析
Intel Labs 与 Hugging Face 推出 SetFitABSA，一个面向领域特定方面级情感分析（ABSA）的少样本训练框架，在少样本场景下表现可媲美甚至超越 Llama2、T5 等生成式模型。
Hugging Face Blog精选AI 评分6262 Hugging Face 如何让 LoRA 推理提速 300%：告别冷启动
Hugging Face 在 Inference API 中实现 LoRA 动态加载，让基础模型保持常驻、按请求即时加载和卸载 LoRA 适配器，把冷启动时间从 25 秒降到 3 秒，用户请求响应时间从 35 秒降到 13 秒。
推荐理由：Hugging Face 公开了 LoRA 动态加载的实现细节与实测数据，读者可据此判断多 LoRA 共享部署的可行性与代价。
Hugging Face Blog精选AI 评分6262 Hugging Face 发布 Optimum-NVIDIA，一行代码加速 LLM 推理
Hugging Face 发布 Optimum-NVIDIA 推理库，只需把 transformers 的 pipeline 导入改成 optimum.nvidia 一行代码，即可在 NVIDIA 平台上获得最高 28 倍吞吐和 1200 tokens/秒，首 token 延迟最高降低 3.3 倍。
推荐理由：原文给出单行代码替换即可获得最高 28 倍吞吐的量化数据，读者可据此判断现有 LLaMA 推理流程的改造成本。
Hugging Face BlogAI 评分5757 Hugging Face 与 AMD 实现 AMD GPU 开箱即用的大模型加速
Hugging Face 与 AMD 公布合作进展，Transformers 模型无需改动代码即可在 AMD Instinct GPU 上运行，并已支持 Flash Attention v2、Paged Attention、DeepSpeed、GPTQ 等加速与量化方案。
Hugging Face BlogAI 评分3838 Open LLM Leaderboard 的 DROP 基准深度排查
Hugging Face 对 Open LLM Leaderboard 新增的 DROP 基准进行深度排查，发现绝大多数模型 f1-score 低于 10 分。原因包括归一化步骤在数字后跟非空格空白字符时失效，以及用「.」作为停止词会截断浮点答案、让高质量模型因生成过长而得分更低。改用「\n」作为停止词后，分数与整体表现的相关性明显改善。
Hugging Face Blog精选AI 评分8080 Hugging Face 发布 LCM LoRA，SDXL 4 步即可出图
Hugging Face 发布 Latent Consistency LoRA（LCM LoRA），通过训练少量 LoRA 适配层而非蒸馏整个模型，让 SDXL 和 Stable Diffusion 从原本 25 到 50 步降到 4 到 8 步完成出图。
推荐理由：LCM LoRA 把 SDXL 推理从 25 步压到 4 步，并给出各硬件实测速度，可据此判断生成工作流的改动空间。
Hugging Face BlogAI 评分2222 RoBERTa、Llama 2 与 Mistral 7B 灾难推文分类对比：基于 LoRA 的微调评测
Hugging Face 博客用 LoRA 微调 RoBERTa-large（355M）、Llama-2-7b 和 Mistral-7B-v0.1 三个模型，在灾难推文二分类任务上做对比评测。实验统一设置 MAX_LEN=512，在单张 A6000（48GB）上训练，并用 Weights & Biases 做超参调优与实验记录。
Hugging Face BlogAI 评分2222 Explosion 推出 Prodigy-HF：与 Hugging Face 直接集成
Explosion 发布 Prodigy-HF 插件，让 Prodigy 标注工具直接集成 Hugging Face 生态。