[論文レビュー] Port-Hamiltonian Approach to Neural Network Training

Stefano Massaroli, Michael Poli+5 more|arXiv (Cornell University)|Sep 6, 2019

Control and Stability of Dynamical Systems参考文献 29被引用数 4

ひとこと要約

本稿では、ネットワークパラメータをポート・ハミルトニアン（PH）力学系を介して時間連続的に変化させる枠組みを提案し、内在的なパassing性によって損失関数の最小値への収束を保証する。従来の離散最適化とは異なり、パラメータを常微分方程式（ODE）の解として扱うことで、滑らかで理論的に保証された収束と、鞍点からの脱出挙動の向上を実現する。

ABSTRACT

Neural networks are discrete entities: subdivided into discrete layers and parametrized by weights which are iteratively optimized via difference equations. Recent work proposes networks with layer outputs which are no longer quantized but are solutions of an ordinary differential equation (ODE); however, these networks are still optimized via discrete methods (e.g. gradient descent). In this paper, we explore a different direction: namely, we propose a novel framework for learning in which the parameters themselves are solutions of ODEs. By viewing the optimization process as the evolution of a port-Hamiltonian system, we can ensure convergence to a minimum of the objective function. Numerical experiments have been performed to show the validity and effectiveness of the proposed methods.

研究の動機と目的

• 非凸なディープラーニングにおける離散最適化の限界を克服するため、連続的かつ物理的インスピレーションに基づいた学習フレームワークを提案すること。
• ポート・ハミルトニアン系のパassing性特性を活用して、損失関数の最小値への収束を保証すること。
• 高次元で非凸な最適化のランドスケープにおける鞍点からの脱出挙動と収束特性の向上を図ること。
• SGD や Adam といった標準的な離散最適化手法に対する理論的裏付けのある連続的代替手法を提供すること。
• 物理的システムのモデリングがニューラルネットワークの学習ダイナミクスとパフォーマンスの向上に与える可能性を検討すること。

提案手法

• ネットワークパラメータを、損失関数をエネルギー関数とする自律的ポート・ハミルトニアン系の状態としてモデル化する。
• 減衰行列 B を用いてエネルギーの減衰を保証するハミルトニアン構造を定義することで、系のダイナミクスを定義する。
• パラメータダイナミクスを ODE として構築：dϑ/dt = J(ϑ)∂H/∂ϑ − B(ϑ)∂H/∂ϑ、ここで H は損失関数である。
• PH フレームワークとの理論的整合性を保つために、smoothness を維持するためのソフトプラス活性化関数（γ=10）を用いる。
• 100 秒間の PH ODE システムを数値積分により学習し、収集した軌道データを用いたバッチ学習を実施する。
• ベクトル場再構成および分類タスクにおいて、学習されたダイナミクスを真値と比較して検証する。

実験結果

リサーチクエスチョン

• RQ1 非凸なニューラルネットワーク最適化問題において、ポート・ハミルトニアンダイナミクスを用いて最小値への収束を保証できるか？
• RQ2 収束性および鞍点からの脱出挙動の観点から、連続的 ODE に基づくパラメータ進化は、離散的勾配降下法と比べてどのように異なるか？
• RQ3 PH ダイナミクスを用いて学習したニューラルネットワークは、ダフィング発振子のような複雑な力学系を正確に再構成できるか？
• RQ4 smooth な活性化関数は、PH ベースの学習フレームワークの理論的妥当性にどのような影響を与えるか？
• RQ5 PH フレームワークは非自明なサイズのニューラルネットワークにスケーリング可能であり、実用的な学習タスクにおいてもパフォーマンスを維持できるか？

主な発見

• PH ベースの学習手法は、30 秒間の学習で損失関数の最小値への収束を達成し、ほとんどのパラメータが 20 秒目までに安定化した。
• パラメータ速度の一時的なリップルが観察された遷移期には、損失の減少が加速した。これは、系が鞍点を通過していることと関連していた。
• ニューラルネットワークはダフィング発振子の真のベクトル場を正確に再構成できた。特に、訓練されていない状態空間領域で最大の再構成誤差を示した。
• 2 層の隠れ層（各層16ユニット）を有する 354 パラメータのネットワークに対してもスケーラビリティを示し、非自明なアーキテクチャへの適用可能性を裏付けた。
• 離散的手法と比較して、滑らかで連続的なパラメータ進化が実現され、内在的なパassing性が収束を保証した。