MoDDiT：Diffusion Transformers 中的简单 Token 路由

MoDDiT 通过让 token 独立经过 MLP 和自注意力两条路径进行路由，为 Diffusion Transformers 实现动态计算分配，最少仅需处理 12.5% 的 token。该架构修改从头训练图像生成模型时可显著降低训练与推理成本，并在提高稀疏度和模型深度后优于未路由基线。MoDDiT 还可用于视频生成模型训练，并将稠密双向视频模型蒸馏为稀疏自回归学生模型。