[论文解读] Learning normalizing flows from Entropy-Kantorovich potentials

Christopher C. Finlay, Augusto Gerolin+2 more|arXiv (Cornell University)|Jun 10, 2020

Model Reduction and Neural Networks参考文献 7被引用 5

一句话总结

本论文通过熵正则化最优传输提出了一种新型连续归一化流（CNF）学习方法，使用标量势函数代替训练过程中的常微分方程（ODE）求解。该方法仅通过对偶优化问题训练势函数，实现了高效、高维的推理与流恢复，且可闭式求解。

ABSTRACT

We approach the problem of learning continuous normalizing flows from a dual perspective motivated by entropy-regularized optimal transport, in which continuous normalizing flows are cast as gradients of scalar potential functions. This formulation allows us to train a dual objective comprised only of the scalar potential functions, and removes the burden of explicitly computing normalizing flows during training. After training, the normalizing flow is easily recovered from the potential functions.

研究动机与目标

• 通过避免直接优化向量场和 ODE 求解器，解决训练行为良好的连续归一化流（CNF）的挑战。
• 通过基于熵正则化最优传输的对偶公式，克服训练 CNF 时计算负担重和不稳定的难题。
• 通过标量势函数隐式参数化流，实现高维密度估计和生成建模。
• 利用蒙特卡洛积分近似热核操作，实现无需网格的可扩展训练过程。
• 在推理阶段无需求解 ODE，即可从训练后的势函数中恢复完整的归一化流和对数似然值。

提出的方法

• 将 CNF 表述为熵正则化最优传输中导出的标量势函数的梯度，特别采用熵-Kantorovich 势函数 φ 和 ψ。
• 定义向量场为 $ v_t(x) = \nabla \frac{1}{2}(\varphi_t(x) - \psi_t(x)) $，其中 $ \varphi_t $ 和 $ \psi_t $ 通过热核进行时间演化。
• 将密度流表示为 $ \log \rho_t(x) = (\varphi_t(x) + \psi_t(x)) / \varepsilon $，实现闭式密度估计。
• 通过避免 ODE 积分的对偶目标函数，利用数据和噪声样本的随机优化训练势函数 $ \varphi $ 和 $ \psi $。
• 使用蒙特卡洛采样近似热核操作，实现可扩展、可微分且高维的计算。
• 通过辅助变量和 $ L_2 $-正则化强化最优性条件，提升对偶目标函数中的训练稳定性。

实验结果

研究问题

• RQ1 能否通过最优传输中的对偶公式，在不求解底层 ODE 的情况下训练连续归一化流？
• RQ2 熵正则化最优传输如何用于通过标量势函数而非向量场来参数化 CNF？
• RQ3 热核操作的蒙特卡洛近似能否实现无需网格离散化的可扩展、高维 CNF 训练？
• RQ4 使用熵-Kantorovich 势函数在多大程度上提升了基于 CNF 的密度估计中的训练稳定性和泛化能力？
• RQ5 对偶优化框架能否在不显式模拟流的情况下恢复精确的归一化流和对数似然值？

主要发现

• 该方法成功地从熵-Kantorovich 势函数中学习 CNF，且在训练过程中无需求解 ODE，实现了高效可扩展的训练。
• 恢复的流在低维玩具分布（包括棋盘等不连续分布）上实现了高质量的样本生成和密度估计。
• 由于熵正则化（ε=1），估计的对数密度呈现更模糊的外观，但生成的样本仍保持高度集中且准确。
• 使用蒙特卡洛积分近似热核操作，实现了无网格、可微分且高维的向量场计算。
• 结合辅助变量和 $ L_2 $-正则化的对偶优化框架稳定了训练过程，提升了势函数的收敛性。
• 该框架在训练后可实现密度和归一化流的闭式计算，推理阶段无需任何 ODE 求解器。