[論文レビュー] Rediscovering orbital mechanics with machine learning

Pablo Lemos, N Jeffrey+3 more|arXiv (Cornell University)|Feb 4, 2022

Machine Learning in Materials Science被引用数 11

ひとこと要約

本論文は、実際の軌道データのみを用いてニュートンの万有引力の法則を再発見し、太陽系天体の質量を正確に推定する二段階の機械学習フレームワークを提示している。まず、観測された位置と速度を入力として、グラフネットワーク（GN）シミュレータを訓練し、次にシンボリック回帰を用いて解釈可能な物理法則を抽出することで、正しい重力式を回復し、質量推定において約1.6%の平均百分誤差を達成した。これは、ニューラルネットワークやシンボリック回帰単体よりも優れた性能を示した。

ABSTRACT

We present an approach for using machine learning to automatically discover the governing equations and hidden properties of real physical systems from observations. We train a "graph neural network" to simulate the dynamics of our solar system's Sun, planets, and large moons from 30 years of trajectory data. We then use symbolic regression to discover an analytical expression for the force law implicitly learned by the neural network, which our results showed is equivalent to Newton's law of gravitation. The key assumptions that were required were translational and rotational equivariance, and Newton's second and third laws of motion. Our approach correctly discovered the form of the symbolic force law. Furthermore, our approach did not require any assumptions about the masses of planets and moons or physical constants. They, too, were accurately inferred through our methods. Though, of course, the classical law of gravitation has been known since Isaac Newton, our result serves as a validation that our method can discover unknown laws and hidden properties from observed data. More broadly this work represents a key step toward realizing the potential of machine learning for accelerating scientific discovery.

研究の動機と目的

• シミュレーションや理想化されたデータセットではなく、実際の観測データから物理法則を発見できる機械学習フレームワークの開発。
• 観測されていない物理的性質（特に天体の質量）を、基礎的な物理法則の発見と同時に推定すること。
• まず微分可能ニューラルネットワークシミュレータを訓練することで、実世界のノイズが多く複雑なデータに対しても、シンボリック回帰を効果的に適用できることの実証。
• 既知の物理学と真の観測データとを比較することで、発見された法則と質量推定の正確性を検証すること。
• スケーラブルで解釈可能かつ一般化可能な、複雑な力学的システムにおける自動科学的理論発見のための一般的なアプローチの確立。

提案手法

• 30年分の実際の太陽系の軌道データを用いて、位置と速度をノード特徴量とし、物理的相互作用をエッジとするグラフネットワーク（GN）ベースのニューラルシミュレータを訓練。
• GNのエッジ関数（物体間の力を計算）を勾配降下法で最適化し、将来の軌道を予測することで、N体運動の微分可能シミュレータとしての学習を実現。
• 訓練後、エッジ関数を抽出し、学習された力関数と最も一致する解析的式を発見するためにシンボリック回帰を実行。
• 発見されたシンボリック式（ニュートンの万有引力の法則）を固定された物理法則とし、その後、新しい式を用いてシミュレータの再訓練により天体の質量を再推定。
• 学習効率と正確性を向上させるために、ニュートンの第二・第三法則、球対称性、対数スケールの単位といったインダクティブバイアスを活用。
• 予測された軌道と真の観測軌道を比較し、誤差指標を対数スケールおよび質量推定の百分誤差で報告することで性能を評価。

実験結果

リサーチクエスチョン

• RQ1 機械学習システムは、物理法則に関する事前の知識がなく、ノイズの多い実際の軌道データからニュートンの万有引力の法則を再発見できるか？
• RQ2 本手法は、データに直接観測されていない天体の質量を同時に推定できるか？
• RQ3 学習済みニューラルシミュレータにシンボリック回帰を適用することで、原始的なデータに直接適用するシンボリック回帰よりも、より正確で一般化可能な物理法則が得られるか？
• RQ4 微分可能で微分可能なニューラルネットワークシミュレータを用いることで、直接のシンボリック回帰と比較して、方程式発見の効率性と正確性がどのように向上するか？
• RQ5 物理的対称性や座標系といったインダクティブバイアスが、実世界のデータにおける自動理論発見の成功に及ぼす影響の程度はどの程度か？

主な発見

• シンボリック回帰の段階で、2つの物体間の重力的力に対する解析的式として、正しいニュートンの万有引力の法則の形を正確に回復した。
• 発見された式を用いて質量を再推定した後、質量推定の平均百分誤差は約1.6%にまで低下し、初期のニューラルネットワーク訓練時と比べて5倍の改善を達成した。
• 質量推定誤差と天体の重力的影響の間のピアソン相関係数は、対数スケールで-0.64から-0.87に向上し、物理的直感との整合性が強くなった。
• 再推定された質量を用いたシンボリック式に基づく軌道予測は、正しいパrametersを用いたニュートン力学と同等に真の観測軌道に近づき、元のニューラルネットワークやシンボリック回帰単体よりも優れた性能を示した。
• 最終モデルはニューラルネットワークよりも一般化性能に優れており、シンボリック式はすべてのスケールで有効である一方、ニューラルネットワークはトレーニング時に見た入力分布に限定されるため。
• 本手法は、微分可能ニューラルシミュレータとシンボリック回帰を組み合わせることで、実世界のデータから効率的で正確かつ解釈可能な物理法則の発見が可能であることを示した。