[论文解读] Mean-Field Neural ODEs via Relaxed Optimal Control

Jean-François Jabir, David Šiška+1 more|arXiv (Cornell University)|Dec 11, 2019

Model Reduction and Neural Networks参考文献 74被引用 14

一句话总结

本文提出了一种基于松弛最优控制的平均场神经随机微分方程框架，用于分析通过随机梯度下降训练的贝叶斯神经随机微分方程。通过推导庞特里亚金最优性原理并研究平均场朗之万动力学（MFLD），该研究建立了时间离散化MFLD的维度无关收敛速率，并以学习率、模型规模和训练数据量来量化泛化误差，为连续时间与测度空间中的深度学习提供了严格的理论基础。

ABSTRACT

We develop a framework for the analysis of deep neural networks and neural ODE models that are trained with stochastic gradient algorithms. We do that by identifying the connections between control theory, deep learning and theory of statistical sampling. We derive Pontryagin's optimality principle and study the corresponding gradient flow in the form of Mean-Field Langevin dynamics (MFLD) for solving relaxed data-driven control problems. Subsequently, we study uniform-in-time propagation of chaos of time-discretised MFLD. We derive explicit convergence rate in terms of the learning rate, the number of particles/model parameters and the number of iterations of the gradient algorithm. In addition, we study the error arising when using a finite training data set and thus provide quantitive bounds on the generalisation error. Crucially, the obtained rates are dimension-independent. This is possible by exploiting the regularity of the model with respect to the measure over the parameter space.

研究动机与目标

• 开发一种理论框架，用于分析通过随机梯度算法训练的贝叶斯神经随机微分方程。
• 通过测度值动力学的视角，将深度学习、最优控制理论与统计采样方法联系起来。
• 建立时间离散化平均场朗之万动力学（MFLD）的统一时间传播混沌性质。
• 推导MFLD在学习率、粒子数和迭代次数方面的显式、维度无关的收敛速率。
• 量化在平均场极限下，由于训练数据集有限而引起的泛化误差。

提出的方法

• 将最优神经随机微分方程权重的学习问题形式化为概率测度空间中的松弛最优控制问题。
• 推导由此产生的平均场控制问题的庞特里亚金最优性原理。
• 在概率测度空间上分析以平均场朗之万动力学（MFLD）形式呈现的梯度流。
• 应用概率数值分析，推导具有可控误差的时间离散化MFLD近似。
• 通过关于参数空间测度的模型正则性，实现维度无关的收敛速率。
• 通过Lipschitz连续性和矩界假设，控制采样中的混沌传播与误差。

实验结果

研究问题

• RQ1 如何将贝叶斯神经随机微分方程的训练问题，表述为概率测度空间中的松弛最优控制问题？
• RQ2 在平均场极限下，时间离散化平均场朗之万动力学（MFLD）的收敛性质是什么？
• RQ3 能否在学习率、粒子数和迭代次数方面，为MFLD推导出维度无关的收敛速率？
• RQ4 在平均场框架下，由于训练数据集有限而引起的泛化误差的定量边界是什么？
• RQ5 MFLD近似中混沌传播在时间上是否具有统一的均匀行为？

主要发现

• 本文推导出时间离散化平均场朗之万动力学（MFLD）的维度无关收敛速率，其显式依赖于学习率、粒子数（模型规模）和迭代次数。
• 建立了时间离散化MFLD的统一时间传播混沌性质，确保粒子经验测度随时间收敛至真实测度。
• 由于训练数据集有限而引起的泛化误差被定量界定，其显式依赖于训练集大小。
• 在关于参数空间测度的模型正则性假设下推导出收敛速率，从而实现维度独立性。
• 分析结果表明，噪声梯度算法确实从参数最优分布中进行采样，支持了贝叶斯神经随机微分方程的观点。
• 通过概率数值分析与马利亚温和微积分技术推导出理论边界，显式误差项包含时间离散化与采样噪声。