arXiv · cs.AI· Xuelong Dai, Jianyu Ma, Boyang Ma, Biwei Yan, Yijun Yang, Yue Zhang·· 4 小时前
MIRAGE：面向 Web 智能体的隐蔽视觉提示注入漏洞检测框架
MIRAGE: Stealthy Visual Prompt Injection for Vulnerability Detection in Web Agents
AI 导读
研究者提出 MIRAGE，一种针对 MLLM Web 智能体的视觉间接提示注入框架，可在仅控制广告位等受限区域的第三方威胁模型下实现目标下一步动作劫持。该方法用扩散模型生成感知上无害的对抗图像，并结合曲率感知对抗扩散引导与稀疏暗像素残差扰动优化攻击效果。在 SeeAct 和 OpenClaw 上的评测显示其具备有效性、真实性与隐蔽性。
来源：arXiv · cs.AI · arxiv.org