Pristine Models:预训练阶段分离安全与不安全概念
热点事件持续更新
Pristine Models:预训练阶段分离安全与不安全概念
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
研究者 Anirudh Sundara Rajan 等人提出 Pristine Models,一种文本到图像生成架构,通过注意力机制把安全与不安全知识分离到独立参数化的分支中。分支参数在训练时学习,推理时可断开不安全分支。 在 ImageNet 上,该模型比仅用安全数据训练或事后概念移除的图像质量更高、文本对齐更好;研究者称其进一步扩展到 CC12M,在更大规模开放世界预训练中依然有效。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 12:00
Pristine Models:在预训练阶段隔离不安全概念,推理时可断开不安全分支报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- arXiv · cs.LGPristine Models:在预训练阶段隔离不安全概念,推理时可断开不安全分支
研究者提出 Pristine Models,一种文本到图像生成架构,通过注意力机制将安全与不安全知识分离到独立参数化的分支中,训练时学习分支参数,推理时可断开不安全分支。在 ImageNet 上,该模型比仅用安全数据训练或事后概念移除的图像质量更高、文本对齐更好,并进一步扩展到 CC12M 验证其在更大规模开放世界预训练中依然有效。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。