FPCD框架缓解视觉语言模型模态间隙漂移

针对 CLIP 类视觉语言模型在持续学习中出现的模态间隙漂移问题，Tiantian Peng 等作者提出 FPCD 持续学习框架，将快速零空间投影（FNP）与对比蒸馏（CD）结合。 据作者介绍，FNP 用对称特征分解替代 SVD，使投影基构建加速 5 至 9 倍；CD 则借助小型参考集，对齐微调模型与 CLIP 的双向图文相似度分布。两项设计分别针对投影效率与模态间隙漂移。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。