Google Research·· 2026-03-25精选AI 评分62
Google 发布 TurboQuant 等向量量化方法，将 KV cache 压至 3 bit
TurboQuant: Redefining AI efficiency with extreme compression
AI 导读
Google Research 提出 TurboQuant 压缩算法，并配套 QJL 与 PolarQuant 两种方法，用于解决向量量化中的内存开销问题，相关论文将分别在 ICLR 2026 和 AISTATS 2026 发表。
推荐理由
Google 提出 TurboQuant 等三种向量量化方法，可在不损失精度的前提下把 KV cache 压到 3 bit，读者可据此了解长上下文推理的内存优化路径。
来源：Google Research · research.google