[论文解读] Compositional Abilities Emerge Multiplicatively: Exploring Diffusion Models on a Synthetic Task

Maya Okawa, Ekdeep Singh Lubana+2 more|arXiv (Cornell University)|Oct 13, 2023

Topic Modeling被引用 4

一句话总结

本文通过基于概念图框架的合成性、数据受控设置，研究了条件扩散模型中的组合泛化问题。研究发现，组合能力以乘法方式涌现——由与概念图结构一致的顺序学习驱动——且未充分表示的属性需要显著更多的优化步骤才能泛化，从而解释了生成模型中突然的性能跃升和失败模式。

ABSTRACT

Modern generative models exhibit unprecedented capabilities to generate extremely realistic data. However, given the inherent compositionality of the real world, reliable use of these models in practical applications requires that they exhibit the capability to compose a novel set of concepts to generate outputs not seen in the training data set. Prior work demonstrates that recent diffusion models do exhibit intriguing compositional generalization abilities, but also fail unpredictably. Motivated by this, we perform a controlled study for understanding compositional generalization in conditional diffusion models in a synthetic setting, varying different attributes of the training data and measuring the model's ability to generate samples out-of-distribution. Our results show: (i) the order in which the ability to generate samples from a concept and compose them emerges is governed by the structure of the underlying data-generating process; (ii) performance on compositional tasks exhibits a sudden "emergence" due to multiplicative reliance on the performance of constituent tasks, partially explaining emergent phenomena seen in generative models; and (iii) composing concepts with lower frequency in the training data to generate out-of-distribution samples requires considerably more optimization steps compared to generating in-distribution samples. Overall, our study lays a foundation for understanding capabilities and compositionality in generative models from a data-centric perspective.

研究动机与目标

• 理解扩散模型中组合泛化失败的机制，特别是在分布外设置下。
• 研究数据生成过程的结构如何影响组合能力出现的顺序。
• 考察训练数据中概念频率和表征对模型泛化性能的影响。
• 识别组合泛化中的失败模式，包括延迟出现和错误泛化，尤其是对未充分表示属性的情况。
• 提供一个以数据为中心的框架，用于诊断和预测生成模型中的涌现能力。

提出的方法

• 作者设计了一个基于概念图框架的合成性、可解释数据集，其中每个节点代表一组独特的属性组合（如颜色、形状），边表示概念层面的差异。
• 在图像对及其对应属性元组上训练条件扩散模型，系统性地改变训练数据中的概念频率和分布。
• 使用训练数据的概念距离作为组合泛化的代理指标，通过测量生成分布外样本的准确性来评估模型性能。
• 研究采用受控干预措施，包括改变训练数据组成，并监控优化步骤中的学习动态。
• 将发现扩展至真实世界数据（CelebA），以验证在合成设置之外的泛化能力，使用性别作为未充分表示属性的代理。
• 提出一种新颖的评估指标，用于追踪训练过程中组合能力的出现，识别失败与成功的临界阈值。

实验结果

研究问题

• RQ1 概念图的几何结构在多大程度上影响扩散模型中组合泛化的顺序出现？
• RQ2 为何某些概念能成功泛化，而另一些则不可预测地失败，即使它们的复杂度相似？
• RQ3 训练数据中概念频率在多大程度上影响组合泛化的时机与成功率？
• RQ4 对抗性微调在多大程度上能缓解组合生成任务中的错误泛化？
• RQ5 未充分表示属性实现可靠组合泛化需要多少优化阈值？

主要发现

• 组合泛化以尊重概念图几何结构的顺序出现，即概念距离为1的样本生成能力先于距离为2的能力出现。
• 组合任务上的性能表现出突然的‘涌现’现象，这是由于对构成任务性能的乘法依赖所致，解释了初始收敛后性能的突然提升。
• 生成涉及未充分表示属性（如稀有颜色或CelebA中的男性性别）的分布外样本，所需优化步骤显著多于生成分布内样本。
• 生成未充分表示属性的能力在训练后期才出现，即使模型在训练分布上已达到完美性能，这也是由于类别不平衡所致。
• 在训练数据中包含某些概念存在一个临界阈值，可被利用以故意阻止模型学习有害或有偏见的概念。
• 对抗性微调无法解决错误泛化问题，表明此类失败源于根本性的数据结构依赖，而非模型容量。