Hugging Face Blog·· 2025-04-29AI 评分26
Intel 推出 AutoRound:面向 LLM 与 VLM 的先进量化工具
Introducing AutoRound: Intel’s Advanced Quantization for LLMs and VLMs
AI 导读
Intel 发布权重仅训练后量化方法 AutoRound,通过符号梯度下降联合优化权重取整与截断范围,支持 INT2-INT8 低比特量化,INT2 下相对精度最高达主流基线 2.1 倍。
来源:Hugging Face Blog · huggingface.co