arXiv · cs.LG· Tiantian Peng, Yuyang Liu, Shuo Yang, Qiuhe Hong, YongHong Tian·2026-10-16 12:00· 2 小时前

FPCD：面向视觉语言模型持续学习的零空间投影框架，缓解模态间隙漂移

Stabilizing the Modality Gap: Null-Space Projected Continual Learning for Vision-Language Models

AI 导读

针对 CLIP 类视觉语言模型在持续学习中出现的模态间隙漂移问题，研究者提出 FPCD 框架，结合快速零空间投影（FNP）与对比蒸馏（CD）。FNP 用对称特征分解替代 SVD，将投影基构建加速 5-9 倍；CD 借助小型参考集对齐微调模型与 CLIP 的双向图文相似度分布。

来源：arXiv · cs.LG · arxiv.org