研究：真实数据占比非零即可避免模型崩溃

Roy Turgeman 与 Tom Tirer 提交的论文提出，即使训练时不区分真实数据和模型生成数据，只要真实数据占比保持任意大于零的固定值，模型崩溃就能避免。这一结论来自对多元高斯分布均值和协方差的迭代估计，论文给出估计量一致性与2-Wasserstein距离收敛到零的等价条件。 论文同时指出，真实数据占比趋近于零时，均值估计的收敛速度会变慢。作者称，CIFAR-10 上扩散模型的迭代训练实验结果与理论相符。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。