Hugging Face Blog·· 3 小时前AI 评分58
VocabX 如何通过词表专门化将小模型推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma-AI 在 Hugging Face 博客中介绍即将发表的 VocabX 论文:不改基础模型、数据和训练配方,只重建词表,就把基于 Qwen3-4B 的葡萄牙语作文评分器实测推理成本降低 77.0%,平均回复长度从 350 token 降到 101 token,bench 分数从 0.703 升到 0.810。
来源:Hugging Face Blog · huggingface.co