BadReward：针对文生图 RLHF 的奖励投毒攻击

研究者提出 BadReward，首个针对文生图模型 RLHF 阶段的间接 clean-label 投毒攻击，通过特征碰撞机制生成视觉上无害、但在奖励特征空间对齐恶意目标概念的偏好图像对。实验显示该攻击能有效污染奖励信号，在线 RLHF 会经奖励模型反馈回路放大污染，离线偏好优化则直接学习被投毒的偏好。在现代文生图架构上，BadReward 对多种 RLHF 算法均取得高攻击成功率并保持视觉隐蔽性。