跳到正文
arXiv · cs.LG· Longhao Lei, Lan Yao·· 4 小时前

SharedSAE:跨 U-Net 模块与去噪时间的扩散模型统一稀疏字典

SharedSAE: a unified sparse dictionary across u-net blocks and denoising time for diffusion models

AI 导读

SharedSAE 在 SDXL 1.0 的四个 U-Net 注意力模块和全部 50 个去噪步上学习共享稀疏字典,通过块级低秩输入适配器与时间条件模块吸收时间非平稳性。基于该字典的局部特征抑制将 I2P 检测器阳性子集中 NudeNet 阳性生成数从 139 降至 1。跨轨迹追踪显示概念表征在生成过程中从最早下采样块向中间及更晚模块重新分布。

来源:arXiv · cs.LG · arxiv.org