跳到正文

开源生态

开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。

358条精选相关主题模型发布Hugging FaceAI 编码

最新精选

第 301–320 条 · 共 358 条
8月1日周二
7月27日周四
7月24日周一
  1. Hugging Face Blog62

    Hugging Face 发布 Agents.js:用 JavaScript 为 LLM 提供工具调用能力

    Hugging Face 在 huggingface.js 下发布 Agents.js,一个可在浏览器或服务端用 JavaScript 为 LLM 提供工具访问的新库,通过 npm install @huggingface/agents 安装。

    推荐理由:Hugging Face 官方开源 Agents.js,给出从安装到自定义工具与模型的完整用法,可据此判断如何为 LLM 接入工具。

7月18日周二
  1. Hugging Face Blog88

    Meta 发布 Llama 2,Hugging Face 同步上线全套集成

    Meta 发布开源大语言模型系列 Llama 2,包含 7B、13B、70B 的预训练与微调版本,采用宽松社区许可并允许商用。相比 Llama 1,预训练 token 增加 40%,上下文长度扩展到 4k tokens,70B 模型使用 grouped-query attention。

    推荐理由:Meta 发布可商用的 Llama 2 系列,Hugging Face 同步给出推理、部署与微调入口,便于判断开源模型的可落地程度。

7月5日周三
6月23日周五
  1. Hugging Face Blog62

    Open LLM Leaderboard 的 MMLU 分数为何对不上?

    Hugging Face 发文解释 Open LLM Leaderboard 上 LLaMA 的 MMLU 分数为何明显低于 LLaMA 论文中的数字:榜单封装的是 EleutherAI LM Evaluation Harness,而论文用的是 UC Berkeley 的原始实现,两者在提示词、答案比较方式上不同。

    推荐理由:同一 MMLU 数据集在三种实现下分数与排名差异明显,读者可据此理解评测数字为何不可直接横向比较。

6月5日周一
  1. Hugging Face Blog78

    Falcon 模型登陆 Hugging Face 生态

    阿布扎比技术创新研究院(TII)以 Apache 2.0 许可发布 Falcon 系列语言模型,包括 Falcon-40B 和 Falcon-7B 两个基础模型及对应的 Instruct 版本。

    推荐理由:梳理 Falcon 系列在 Hugging Face 生态中的推理、量化与微调路径,可了解当时开源模型的能力位置。

5月24日周三
  1. Hugging Face Blog78

    Hugging Face 用 bitsandbytes 与 QLoRA 让 transformers 支持 4-bit 量化

    Hugging Face 与 bitsandbytes 合作,在 transformers 中支持以 4-bit 精度加载和运行模型,覆盖文本、视觉、多模态等大多数 HF 模型,并可在 4bit 模型上训练适配器。

    推荐理由:Hugging Face 把 4-bit 量化与 QLoRA 接入 transformers,读者可据此判断消费级显卡微调大模型的门槛变化。

5月23日周二
  1. Hugging Face Blog62

    Safetensors 通过外部安全审计,将成 transformers 默认格式

    Hugging Face 联合 EleutherAI 和 Stability AI 委托 Trail of Bits 对 safetensors 库做外部安全审计,未发现可导致任意代码执行的关键安全漏洞,并修复了规范格式不精确和允许 polyglot 文件的校验缺失问题。

    推荐理由:外部安全审计确认 safetensors 无任意代码执行漏洞,并给出其成为默认保存格式的推进节奏。

5月15日周一
  1. Hugging Face Blog62

    Hugging Face 将 RWKV 架构集成进 transformers 库

    Hugging Face 博客介绍 RWKV 架构已集成进 transformers 库,该架构结合 RNN 与 Transformer 的优势,由 Bo Peng 主导、Stability AI 捐赠训练 GPU。

    推荐理由:RWKV 把 RNN 的推理效率与 Transformer 的并行训练结合,并已接入 transformers 库,读者可据此判断长上下文场景的选型空间。

5月9日周二
  1. Hugging Face Blog60

    用 StarCoder 打造编码助手 StarChat

    Hugging Face 团队介绍如何将 16B 参数的 StarCoder 微调为对话式编码助手 StarChat,使用 OpenAssistant 约 2.1 万条英文对话数据,并采用 ChatML 格式标记对话角色。

    推荐理由:原文完整给出用对话数据微调 StarCoder 的流程与代码,读者可据此复现一个开源编码助手。

5月4日周四
  1. Hugging Face Blog78

    BigCode 发布 StarCoder:15B 参数开源代码大模型

    BigCode 发布 StarCoder 与 StarCoderBase 两个代码大模型,基于 GitHub 上 80 多种编程语言的宽松许可数据训练,约 15B 参数、1 万亿 token,StarCoder 是在 StarCoderBase 上用 35B Python token 微调而来。

    推荐理由:BigCode 公开了 StarCoder 的权重、训练数据与评测结果,读者可据此判断开源代码模型当时的能力位置。

4月5日周三
3月24日周五
  1. Hugging Face Blog62

    用 diffusers 训练你自己的 ControlNet

    Hugging Face 发布教程,介绍用 diffusers 训练 ControlNet 的三个步骤:规划条件、构建数据集、训练模型,并以人脸姿态为例训练出 Uncanny Faces 模型。

    推荐理由:Hugging Face 官方给出从条件设计、数据集构建到 diffusers 训练脚本的完整 ControlNet 训练流程,含显存优化参数。

3月9日周四
  1. Hugging Face Blog62

    trl 与 peft 集成:在 24GB 消费级 GPU 上 RLHF 微调 20B LLM

    Hugging Face 正式发布 trl 与 peft 的集成,让大语言模型的 RLHF 微调更易上手。文章以 gpt-neox-20b 为例,通过 8-bit 加载、低秩适配器和 disable_adapters 复用同一模型,在 24GB NVIDIA 4090 上完成微调,完整训练则在单张 A100 上运行。作者指出该方案的主要代价是训练速度约慢一倍,后续将探索多 GPU 扩展与提速。

    推荐理由:trl 与 peft 集成后,读者可了解在 24GB 消费级 GPU 上完成 20B 模型 RLHF 微调的具体步骤与内存取舍。

3月6日周一
3月3日周五
2月24日周五
2月15日周三
2月10日周五