[論文レビュー] A Measure Theoretical Approach to the Mean-field Maximum Principle for Training NeurODEs

Benoît Bonnet, Cristina Cipriani+2 more|arXiv (Cornell University)|Jul 19, 2021

Sparse and Compressive Sensing Techniques参考文献 28被引用数 4

ひとこと要約

本稿は、L²正則化を伴う平均場最適制御を用いたNeural ODEの学習に、測度論的枠組みを導入し、一意でリプシッツ連続な制御解を保証する新しい平均場最大原理（PMP）を導出する。この一意性により、一般化誤差の厳密な定量的評価が可能となり、過パrameter化モデルにおけるダブルデセント現象の理論的説明が得られる。

ABSTRACT

In this paper we consider a measure-theoretical formulation of the training of NeurODEs in the form of a mean-field optimal control with $L^2$-regularization of the control. We derive first order optimality conditions for the NeurODE training problem in the form of a mean-field maximum principle, and show that it admits a unique control solution, which is Lipschitz continuous in time. As a consequence of this uniqueness property, the mean-field maximum principle also provides a strong quantitative generalization error for finite sample approximations. Our derivation of the mean-field maximum principle is much simpler than the ones currently available in the literature for mean-field optimal control problems, and is based on a generalized Lagrange multiplier theorem on convex sets of spaces of measures. The latter is also new, and can be considered as a result of independent interest.

研究の動機と目的

• L²正則化を伴う平均場最適制御を用いたNeural ODEの学習に、厳密な数学的基盤を提供すること。
• 新規の平均場最大原理を用いて、NeurODE学習の一次最適性条件を導出すること。
• 最適制御の一意性と正則性を確立し、強い定量的一般化誤差バウンドを保証すること。
• 凸測度集合上の一般化ラグランジュ乗数定理を用いて、平均場PMPの簡略化された導出を提供すること。
• 有限標本近似における誤差の定量的評価を通じて、過パrameter化モデルにおけるダブルデセント現象を説明すること。

提案手法

• NeurODEの学習を、確率測度空間における制御にL²正則化を施した平均場最適制御問題として定式化する。
• バナッハ空間の測度集合の凸部分集合に一般化ラグランジュ乗数定理を適用し、必要最適性条件を導出する。
• ラグランジュアンおよびハミルトニアンの両アプローチを用いて、連続的および可測な制御の2つの設定において平均場PMPを導出する。
• 測度空間における連続性方程式および特徴的流れを用いて、PMPの適切な定式化を確立する。
• バナッハ空間における固定点定理および陰関数定理を用いて、解の存在性と正則性を証明する。
• 合成およびベンチマークデータセットにおける数値実験を通じて、理論的結果の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 Neural ODEの学習を、L²正則化を伴う平均場最適制御問題として、どのように厳密に定式化できるか？
• RQ2 このような問題の一次最適性条件は何か？ また、それらは一意な解を許容するか？
• RQ3 最適制御の一意性を活用して、定量的な一般化誤差バウンドを導出できるか？
• RQ4 提案された平均場PMPは、既存の手法と比較して、単純さと一般性の面でどのように異なるか？
• RQ5 導出された枠組みは、過パarameter化モデルにおけるダブルデセント現象を説明できるか？

主な発見

• NeurODE学習の平均場最大原理は、時間に関してリプシッツ連続である一意な制御解を許容する。
• 最適制御の一意性により、有限標本近似における強い定量的一般化誤差バウンドが得られる。
• 本稿では、凸測度集合上の新しい一般化ラグランジュ乗数定理を用いて、平均場PMPの簡略化された導出が提供されており、これは独立した興味を引く。
• 理論的枠組みにより、一般化誤差が訓練標本数を上回るモデルパラメータでも減少することを示し、ダブルデセント現象を厳密に正当化する。
• 数値実験により理論的予測が確認され、過パrameter化領域においても安定な学習と一貫した誤差行動が示された。