arXiv · cs.LG· Albert Ge, Akash Haridas, Utkarsh Saxena, Ruijing Yang, Ian Colbert, Frederic Sala, Vikram Appia, Emad Barsoum·· 20 小时前
Coral-KV：面向自回归视频 KV 缓存的跨层预测与残差编码压缩框架
CORAL-KV: Compact Cross-Layer Prediction and Residual Coding for Autoregressive Video KV Caches
AI 导读
Coral-KV 是一种面向自回归视频扩散模型的 KV 缓存压缩框架，利用层间依赖预测后续层的 key 和 value，再对预测残差做量化。
来源：arXiv · cs.LG · arxiv.org