[论文解读] A Measure Theoretical Approach to the Mean-field Maximum Principle for Training NeurODEs

Benoît Bonnet, Cristina Cipriani+2 more|arXiv (Cornell University)|Jul 19, 2021

Sparse and Compressive Sensing Techniques参考文献 28被引用 4

一句话总结

本文提出了一种基于测度理论的神经ODE训练框架，通过L²正则化的平均场最优控制方法，推导出一种新型的平均场最大值原理（PMP），该原理保证了唯一且Lipschitz连续的控制解。唯一性使得能够对泛化误差进行严格量化，从而为过参数化模型中的双下降现象提供了理论解释。

ABSTRACT

In this paper we consider a measure-theoretical formulation of the training of NeurODEs in the form of a mean-field optimal control with $L^2$-regularization of the control. We derive first order optimality conditions for the NeurODE training problem in the form of a mean-field maximum principle, and show that it admits a unique control solution, which is Lipschitz continuous in time. As a consequence of this uniqueness property, the mean-field maximum principle also provides a strong quantitative generalization error for finite sample approximations. Our derivation of the mean-field maximum principle is much simpler than the ones currently available in the literature for mean-field optimal control problems, and is based on a generalized Lagrange multiplier theorem on convex sets of spaces of measures. The latter is also new, and can be considered as a result of independent interest.

研究动机与目标

• 为使用L²正则化的平均场最优控制方法训练神经ODE提供严格的数学基础。
• 通过一种新型的平均场最大值原理，推导出神经ODE训练的一阶最优性条件。
• 建立最优控制的唯一性与正则性，确保强定量的泛化误差界。
• 通过在测度集合的凸集上应用广义Lagrange乘子定理，提供一种简化的平均场PMP推导。
• 通过有限样本近似中的严格误差量化，解释过参数化模型中的双下降现象。

提出的方法

• 将神经ODE训练公式化为在概率测度空间中对控制变量施加L²正则化的平均场最优控制问题。
• 在Banach空间测度的凸子集上应用广义Lagrange乘子定理，推导必要最优性条件。
• 在连续控制与可测控制两种设定下，分别使用Lagrangian与Hamiltonian方法推导平均场PMP。
• 通过测度空间中的连续性方程与特征流，建立PMP的适定性。
• 在Banach空间中利用不动点论证与隐函数定理，证明解的存在性与正则性。
• 通过合成数据集与基准数据集上的数值实验验证理论结果。

实验结果

研究问题

• RQ1 如何将神经ODE的训练严格公式化为带有L²正则化的平均场最优控制问题？
• RQ2 此类问题的一阶最优性条件是什么？它们是否具有唯一解？
• RQ3 能否利用最优控制的唯一性来推导定量的泛化误差界？
• RQ4 所提出的平均场PMP在简洁性与普适性方面与现有方法相比如何？
• RQ5 所推导的框架能否解释过参数化模型中的双下降现象？

主要发现

• 神经ODE训练的平均场最大值原理具有唯一控制解，且该解在时间上是Lipschitz连续的。
• 最优控制的唯一性使得能够为有限样本近似建立强定量的泛化误差界。
• 本文通过在测度凸集上引入新的广义Lagrange乘子定理，提供了简化版的平均场PMP推导，该结果本身具有独立兴趣。
• 理论框架通过证明当模型参数超过训练样本数量时泛化误差仍会减小，从而严格解释了双下降现象。
• 数值实验验证了理论预测，展示了在过参数化区域中训练的稳定性与一致的误差行为。