跳到正文

#开源/仓库

今日 0 条
2月12日周三
  1. Hugging Face Blog62

    Hugging Face 详解 Xet 存储:从分块到块聚合加速 Hub 上传下载

    Hugging Face 的 Xet 团队介绍其基于内容定义分块(CDC)的存储方案,通过将去重后的数据聚合为最大 64MB 的块、并用 shard 记录文件与块的映射,把 CAS 条目减少约 1000 倍,部分场景上传下载提速 2-3 倍。

    推荐理由:Hugging Face 官方解释 Xet 存储如何用块级聚合替代逐块传输,读者可了解大文件上传下载提速的实现思路。

2月4日周二
1月28日周二
  1. Hugging Face Blog62

    Hugging Face 发起 Open-R1 项目,完整复现 DeepSeek-R1

    Hugging Face 发起 Open-R1 项目,计划系统重建 DeepSeek-R1 的数据与训练流程。DeepSeek 虽开放了模型权重,但未公开训练数据集和代码,Open-R1 将分三步复现:蒸馏高质量推理数据集复现 R1-Distill 模型、复现 R1-Zero 的纯 RL 流程、展示从 base model 到 SFT 再到 RL 的多阶段训练。

    推荐理由:Hugging Face 公开了复现 DeepSeek-R1 数据与训练流程的三步计划,读者可了解开源推理模型补全路径。

1月16日周四
12月19日周四
  1. Hugging Face Blog66

    Answer.AI 与 LightOn 发布 ModernBERT,为 BERT 提供替代方案

    Answer.AI 与 LightOn 联合发布 ModernBERT,一个编码器模型系列,包含 base(149M 参数)和 large(395M 参数)两个版本,支持 8192 序列长度,可作为 BERT 类模型的直接替换。

    推荐理由:ModernBERT 把 LLM 时代的架构与训练经验搬回编码器,读者可据此判断 BERT 类模型在检索与代码场景的替换空间。

12月18日周三
12月10日周二
10月22日周二
10月1日周二
  1. Hugging Face Blog22

    BenCzechMark:你的 LLM 能理解捷克语吗?

    Hugging Face 发布 BenCzechMark,首个面向捷克语的大语言模型综合评测套件,包含 50 个任务、9 个类别,其中 90% 为原生非翻译内容。配套榜单已收录超过 25 个不同规模的开源模型,任务覆盖阅读理解、事实知识、语法错误检测、数学推理、自然语言推理、命名实体识别与情感分析等,并采用 Acc、EM、AUROC、Ppl 等指标评估。

9月30日周一
  1. Hugging Face Blog34

    如何将顶点着色网格转换为 UV 贴图纹理网格

    Hugging Face 发布教程,介绍如何把 InstantMesh 等生成式 3D 模型输出的顶点着色网格转换为 UV 贴图纹理网格。教程提供 InstantTexture 库,一条 pip 命令即可将顶点着色的 .obj 网格转换为带纹理的 .glb 文件,并详解用 xatlas 生成 UV 贴图、重心坐标插值填充纹理,再经修复、中值滤波、高斯模糊和降采样消除空洞的完整流程。

9月18日周三
  1. Hugging Face Blog60

    如何把 LLM 微调到 1.58bit:BitNet 极端量化实践

    Hugging Face 团队探索出把已有模型微调到 1.58bit 的方法,无需从零预训练。他们用 BitNet 架构微调 Llama3 8B,其中两个模型在 10B tokens 上微调、第三个在 100B tokens 上微调,模型以 HF1BitLLM 组织发布,在 MMLU 上超过 Llama 1 7B。

    推荐理由:原文给出把已有 Llama3 8B 微调到 1.58bit 的完整流程与踩坑记录,可迁移到其他模型的低比特微调。

9月13日周五
8月27日周二
8月12日周一
  1. Hugging Face Blog62

    TII 发布 Falcon Mamba:首个强性能无注意力 7B 模型

    阿布扎比技术创新研究院(TII)发布 Falcon Mamba 7B,采用纯 Mamba 架构并加入额外 RMS 归一化层以保证大规模训练稳定,模型以 TII Falcon Mamba 7B License 1.0 开放,可在 Hugging Face 生态中使用。

    推荐理由:TII 发布首个纯 Mamba 架构 7B 模型,给出与同规模 Transformer 的基准对比和长序列显存实测。

7月18日周四
7月16日周二
6月20日周四
6月18日周二
5月24日周五
  1. Hugging Face Blog50

    Meta 发布 CyberSecEval 2:面向大语言模型网络安全风险与能力的评估框架

    Meta 发布 CyberSecEval 2,从代码不安全实践、提示词注入、网络攻击协助请求、代码解释器滥用和自动化攻击能力五个维度评估 LLM 的网络安全风险。相比 2023 年 12 月的首版,LLM 协助网络攻击的平均合规率已从 52% 降至 28%。测试显示提示词注入仍是未解决问题,LLM 目前也难以可靠完成端到端漏洞利用挑战。

4月22日周一
4月18日周四
4月16日周二
3月25日周一
3月18日周一
3月15日周五
2月28日周三
  1. Hugging Face Blog78

    BigCode 发布 StarCoder2 代码模型与 The Stack v2 数据集

    BigCode 发布新一代透明训练的开放代码大模型 StarCoder2,包含 3B、7B、15B 三个尺寸,分别由 ServiceNow、Hugging Face 和 NVIDIA 训练,并同步开放模型、数据集及训练代码。

    推荐理由:BigCode 同时放出三个尺寸的代码模型、训练数据集与训练代码,读者可据此判断开源代码模型的能力边界与数据规模。

2月23日周五
2月19日周一
2月2日周五
1月19日周五
1月18日周四
1月12日周五
12月6日周三
9月29日周五
5月31日周三
  1. Hugging Face Blog22

    Hugging Face Hub 集成 BERTopic

    Hugging Face Hub 现已集成 BERTopic,用户可直接在 Hub 上访问和共享主题模型。BERTopic 是一种基于 Transformer 嵌入向量和 c-TF-IDF 的主题建模技术,支持神经主题建模。此次集成让开发者能更便捷地加载、上传和复用主题模型。

5月24日周三
  1. Hugging Face Blog78

    Hugging Face 用 bitsandbytes 与 QLoRA 让 transformers 支持 4-bit 量化

    Hugging Face 与 bitsandbytes 合作,在 transformers 中支持以 4-bit 精度加载和运行模型,覆盖文本、视觉、多模态等大多数 HF 模型,并可在 4bit 模型上训练适配器。

    推荐理由:Hugging Face 把 4-bit 量化与 QLoRA 接入 transformers,读者可据此判断消费级显卡微调大模型的门槛变化。

5月23日周二