研究者提出针对文生图RLHF的BadReward投毒攻击

Kaiwen Duan 等作者提出 BadReward，一种针对文生图模型 RLHF 阶段的间接 clean-label 投毒攻击。其做法是通过特征碰撞机制生成视觉上无害、但在奖励特征空间对齐恶意目标概念的偏好图像对，从而污染奖励信号。 实验显示，在线 RLHF 会经奖励模型反馈回路放大污染，离线偏好优化则直接学习被投毒的偏好；在现代文生图架构上，该攻击对多种 RLHF 算法均取得高攻击成功率并保持视觉隐蔽性。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。