arXiv · cs.AI· Anna Gerchanovsky, Omer Akgul, Lujo Bauer, Michael K. Reiter·· 4 小时前
SpinDoctor:为带偏见的图像生成寻找无害提示词
SpinDoctor: Finding Innocuous Prompts for Biased Image Generation
AI 导读
SpinDoctor 能以黑盒方式为文生图模型找到看似无害、却会生成指定偏见图像的提示词,在 304 次实验中除 2 次外均成功,在两个开源模型上平均提升 34.8% 和 33.5%。该方法生成的提示词在模型间存在迁移性,78.6% 的情况下同一偏见会在另一模型上复现,意味着用户拿到这类看似中立的提示词后仍可能得到偏见图像。
来源:arXiv · cs.AI · arxiv.org