SpinDoctor：找到诱导偏见的无害提示词

Anna Gerchanovsky 等作者提出 SpinDoctor，一种以黑盒方式为文生图模型寻找提示词的方法：这些提示词本身看似无害，却能让模型生成带有指定偏见的图像，同时保持图像和提示词的质量。 在 304 次实验中，该方法除 2 次外均成功，在两个开源模型上平均提升 34.8% 和 33.5%。生成的提示词还能跨模型迁移：78.6% 的情况下，同一偏见会在另一个模型上复现，这意味着用户即使拿到看似中立的提示词，仍可能得到偏见图像。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。