arXiv · cs.AI· Peiliang Cai, Evelyn Zhang, Jiacheng Liu, Hao Lin, Ruiqi Zhang, Weile Mo, Yue Ma, Shikang Zheng, Jiehang Huang, Dongrui Liu, Linfeng Zhang·· 18 小时前
Focused Forcing：面向高效自回归视频扩散的内容感知逐帧 KV 选择
Focused Forcing: Content-Aware Per-Frame KV Selection for Efficient Autoregressive Video Diffusion
AI 导读
研究者提出免训练 KV 选择方法 Focused Forcing，在自回归视频扩散中按生成帧和注意力头两个维度聚焦缓存历史，实现最高 1.48x 端到端加速，同时提升视觉质量与文本对齐。该方法结合注意力分数与历史帧多样性分数为每个生成帧保留最相关且独特的历史帧，并按估计重要性为注意力头分配更大预算。代码已开源。
来源：arXiv · cs.AI · arxiv.org