[论文解读] Flows for Flows: Training Normalizing Flows Between Arbitrary Distributions with Maximum Likelihood Estimation

Samuel Klein, J. A. Raine+1 more|arXiv (Cornell University)|Nov 4, 2022

Model Reduction and Neural Networks被引用 6

一句话总结

该论文提出了'Flows for Flows'方法，通过使用另一个归一化流来参数化基础密度，实现对任意两个分布之间归一化流的精确最大似然估计训练。该方法能够生成灵活、连续的传输映射，尤其在处理条件分布时表现优异，无需显式正则化即可超越标准归一化流，在建模不连续或复杂分布方面表现更优。

ABSTRACT

Normalizing flows are constructed from a base distribution with a known density and a diffeomorphism with a tractable Jacobian. The base density of a normalizing flow can be parameterised by a different normalizing flow, thus allowing maps to be found between arbitrary distributions. We demonstrate and explore the utility of this approach and show it is particularly interesting in the case of conditional normalizing flows and for introducing optimal transport constraints on maps that are constructed using normalizing flows.

研究动机与目标

• 实现对任意两个概率分布之间归一化流的训练，即使在先验未知其密度的情况下亦可。
• 通过使用流作为基础密度来改进对复杂或不连续分布的建模，避免标准正态基础分布带来的问题。
• 探索在条件设置下使用 Flows for Flows，即学习在不同条件值下分布之间的映射。
• 研究正则化策略（如最优传输约束），以提升所学习传输映射的语义一致性。
• 展示 Flows for Flows 在高维和领域无关设置下的实用性，包括在高能物理和扩散建模中的应用。

提出的方法

• 将归一化流中的基础密度替换为另一个训练好的归一化流，使模型能够直接学习两个任意数据分布之间的映射。
• 通过变分变量公式进行最大似然估计训练，对输入和输出分布的对数似然进行计算。
• 对于条件分布，流根据条件值之间的差异进行条件化，从而实现在不同条件下的分布之间连续变换。
• 采用双向训练设置，同时对 $ f_{ ext{flow}}^{-1} $ 和 $ f_{ ext{flow}} $ 在两个分布的数据上进行训练，以降低对基础密度质量的依赖。
• 在损失函数中引入最优传输惩罚项，以鼓励点的最小位移，提升所学习映射的语义一致性。
• 该框架在 ffflows 包中实现，基于 nflows 库构建，支持模块化和可重用的任意分布之间流的构建。

实验结果

研究问题

• RQ1 是否可以使用最大似然方法在两个任意分布之间有效训练归一化流，即使其密度未知？
• RQ2 与标准正态基础分布相比，使用流作为基础密度在建模复杂或不连续分布方面有何改进？
• RQ3 Flows for Flows 在学习条件分布之间的传输映射时，与标准条件归一化流相比，其性能提升程度如何？
• RQ4 显式正则化（如最优传输约束）是否能增强所学习传输映射的语义一致性？
• RQ5 双向训练设置在多大程度上降低了对流中基础密度质量的依赖？

主要发现

• Flows for Flows 有效学习了任意分布之间连续且可逆的映射，包括具有不连续性的分布，如四重重叠圆分布。
• 在条件设置下，该方法优于标准条件归一化流，由于所学习映射的连续性，生成的分布外样本更少。
• 即使未使用显式正则化，Flows for Flows 模型仍能学习到具有内在语义一致性的映射，如可视化中颜色编码的点对应关系所示。
• 在测试设置中，引入最优传输惩罚项对性能影响可忽略，表明流架构本身已能促进有意义的传输。
• 双向训练降低了对基础密度质量的依赖，提升了所学习映射的稳定性和泛化能力。
• ffflo ws 包支持轻松构建任意（条件）分布之间的流，促进了可复现性，并便于扩展至新应用。