arXiv · cs.AI· Xinmeng Liu, Xianglong Yan, Kaicheng Yang, Weisheng Dong, Yulun Zhang·· 4 小时前
HGA-Quant：面向自回归视觉生成模型的异构感知量化框架
HGA-Quant: Heterogeneity-Aware Quantization for AutoRegressive Visual Generation Models
AI 导读
研究者提出免训练 PTQ 框架 HGA-Quant，由 T-BGR 与 CAPS 两部分组成，用于自回归视觉生成（ARVG）模型的低比特量化。在 Infinity 上，该框架以 W4A5.6 有效激活精度实现接近全精度的图像生成质量，而现有方法在 W4A6 下仍出现明显质量退化。代码已开源。
来源：arXiv · cs.AI · arxiv.org