arXiv · cs.AI· Francesco Colasurdo, Ivan Slobozhan, Joaquin Vanschoren, Anna Vettoruzzo·· 4 小时前
统一多模态模型后训练中的跨模态遗忘与迁移:Janus-Pro-7B 的 LoRA 实验
Cross-Modal Forgetting and Transfer in Unified Multimodal Post-Training
AI 导读
研究测量了 Janus-Pro-7B 在 LoRA 后训练中的跨模态遗忘:单次训练看似安全,四个公开基准和自由英文生成均无退化,适配器将留出威尔士语困惑度降低 76%、相对权重变化不足 2%。
来源:arXiv · cs.AI · arxiv.org