arXiv · cs.LG· Anubhav Jain, Takashi Shibuya, Yuya Kobayashi, Yuhta Takida, Nasir Memon, Julian Togelius, Yuki Mitsufuji·· 2 小时前
TraSCE:用无条件锚定与局部引导修复负提示的概念抑制失效
Rethinking Negative Prompting for Concept Suppression: Unconditional Anchoring and Localized Guidance
AI 导读
针对负提示在越狱提示下出现的“引导崩溃”问题,研究者提出免训练推理时方法 TraSCE,将崩溃时的回退目标从负提示预测改为中性的无条件预测,并对对抗提示主动触发崩溃、引导样本走向无条件回退。在针对裸露与暴力的对抗提示基准上,TraSCE 显著提升了负提示对越狱提示的鲁棒性,且无需训练、权重更新或预收集概念数据,对通用图像质量影响较小。该方法还可用于抑制艺术风格与特定物体。
来源:arXiv · cs.LG · arxiv.org