熵约束自适应随机量化

arXiv:2608.18147v1 公告类型：新 摘要：自适应随机量化（ASQ）是最近引入的一种量化方法，它可以优化给定输入的均方误差（MSE），同时保持无偏性。它旨在缓解现代数据和机器学习工作负载的通信和内存瓶颈，包括模型、梯度和 KV 缓存压缩以及最近邻搜索。此外，实际系统可以使用无损熵编码器来压缩量化数据。然而，现有的无偏方法（包括 ASQ）在选择量化值时没有考虑后面的编码阶段，从而将准确性留在了桌面上。我们制定了入口