[論文レビュー] Learning Symmetries of Classical Integrable Systems

Roberto Bondesan, Austen Lamacraft|arXiv (Cornell University)|Jun 11, 2019

Computational Physics and Python Applications参考文献 25被引用数 20

ひとこと要約

本稿では、古典的可積分系に隠れた対称性を解明するための深層シンプレクティックフロー——シンプレクティック（正準）変換を学習するニューラルネットワーク——を提案する。アーキテクチャ的制約によりシンプレクティック性を強制することで、軌道が作用角変数において円形軌道に変換され、ケプラー、カロジェロ＝モーザー、ニューマンモデルの構造が、未学習の軌道に対しても一般化して正しく学習可能である。

ABSTRACT

The solution of problems in physics is often facilitated by a change of variables. In this work we present neural transformations to learn symmetries of Hamiltonian mechanical systems. Maintaining the Hamiltonian structure requires novel network architectures that parametrize symplectic transformations. We demonstrate the utility of these architectures by learning the structure of integrable models. Our work exemplifies the adaptation of neural transformations to a family constrained by more than the condition of invertibility, which we expect to be a common feature of applications of these methods.

研究の動機と目的

• 古典的ハミルトニアン系における、元の変数では顕在しない隠れた対称性を発見するデータ駆動型手法の開発。
• 標準的な正規化フローの限界を克服するため、可逆性よりも厳しい条件であるシンプレクティック性を強制することで、ハミルトニアン力学の幾何的構造を保存する。
• 深層ニューラルネットワークが、位相空間軌道を円形軌道に写像することにより、可積分系の作用角変換を学習可能であることを示す。
• 学習済みシンプレクティックフローの、学習分布外の軌道、特にニューマンモデルのような準周期的系への一般化性能を評価する。

提案手法

• 各ブロックのヤコビ行列がシンプレクティック条件 $ J^T ilde{oldsymbol{ heta}} ilde{oldsymbol{ heta}} J = ilde{oldsymbol{ heta}} $ を満たすように設計された、シンプレクティック変換をパラメータ化する複数のブロックから構成されるニューラルネットワークアーキテクチャを設計。ここで $ ilde{oldsymbol{ heta}} $ はシンプレクティック形式を表す。
• 変換された位相空間における円形形状からの逸脱をペナルティとする微分可能損失関数を構築。これは各 $ q_j-p_j $ 平面における変換済み軌道の平均二乗偏差として定義される。
• ルンゲ・クッタ法による数値積分を用いて軌道を生成し、エポックごとにシャッフルすることで多様な比較を保証し、Adam最適化法を用いた確率的勾配降下法でネットワークを訓練する。
• 逆変換 $ T^{-1} $ を用いて軌道を元に戻し、学習済みシンプレクティックフローの可視化を行う。これにより、複雑な軌道が円形に写像されていることを確認する。
• 変換されたハミルトニアンの密度とベース分布とのKLダイバージェンスを最小化する、または変換されたハミルトニアンの角度不変性を強制するなど、代替の訓練目的を検討する。
• 可積分系の解析的解を活用することで、数値的ODEソルバーへの依存を軽減し、学習の安定性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、古典的可積分系に隠れた対称性を明らかにするシンプレクティック変換を学習可能か？
• RQ2 特にニューマンモデルのような準周期的系において、学習済みシンプレクティックフローは未学習の軌道にどの程度一般化可能か？
• RQ3 ネットワークアーキテクチャにシンプレクティック性を強制することで、標準的な正規化フローに比べ、ハミルトニアン構造の保存がより良くなるか？
• RQ4 保存量の知識が事前に与えられていない状況でも、この手法は可積分系の作用角変数を発見可能か？
• RQ5 KLダイバージェンスや角度不変性の強制といった代替の訓練目的は、対称性発見において同等または優れた性能を示すか？

主な発見

• 提案された深層シンプレクティックフローは、ケプラーおよびカロジェロ＝モーザー系の軌道を $ q_j-p_j $ 平面において円形軌道に正しく写像し、作用角変数の回復を確認した。
• 3個の振動子を有するニューマン系では、学習済みシンプレクティックフローが良好に一般化する。$ r=3 $ 時に $ imes 10^5 $: 3.7、$ r=5 $ 時に 12.4、$ r=7 $ 時に 23.4 という低損失が、半径 $ r $ の範囲で維持され、未学習の $ r $ 値に対しても同様に低損失を示した。
• 訓練時の半径を超えた範囲でも一般化が成立しており、図4に示される逆写像軌道は $ r=2,4,6,8 $ においても円形を保っている。これは半径変動に対して強い耐性を示している。
• この手法により、位相空間点の解釈が可能になる。Liouville-Arnoldトーラスが、軌道を円に写像することによって可視化可能である。
• 円形からの逸脱に基づく損失関数は、訓練を効果的に導く。訓練時の半径では最小値を示し、隣接する半径ではやや増加するが、一貫性のある最適化が実現している。
• KLダイバージェンスの最小化や、変換されたハミルトニアンの角度不変性の強制といった代替の訓練目的は、副次的だが有効であり、付録で分析された。これは目的関数設計における柔軟性を示唆している。