[论文解读] Rediscovering orbital mechanics with machine learning

Pablo Lemos, N Jeffrey+3 more|arXiv (Cornell University)|Feb 4, 2022

Machine Learning in Materials Science被引用 11

一句话总结

该论文提出了一种两阶段机器学习框架，仅使用真实的轨道轨迹数据，重新发现了牛顿万有引力定律，并准确推断出太阳系天体的质量。首先，利用观测到的位置和速度对图网络模拟器进行训练，然后应用符号回归提取可解释的物理定律。该方法成功恢复了正确的引力公式，并在质量估计中实现了约1.6%的平均百分比误差，优于单独使用神经网络或符号回归的方法。

ABSTRACT

We present an approach for using machine learning to automatically discover the governing equations and hidden properties of real physical systems from observations. We train a "graph neural network" to simulate the dynamics of our solar system's Sun, planets, and large moons from 30 years of trajectory data. We then use symbolic regression to discover an analytical expression for the force law implicitly learned by the neural network, which our results showed is equivalent to Newton's law of gravitation. The key assumptions that were required were translational and rotational equivariance, and Newton's second and third laws of motion. Our approach correctly discovered the form of the symbolic force law. Furthermore, our approach did not require any assumptions about the masses of planets and moons or physical constants. They, too, were accurately inferred through our methods. Though, of course, the classical law of gravitation has been known since Isaac Newton, our result serves as a validation that our method can discover unknown laws and hidden properties from observed data. More broadly this work represents a key step toward realizing the potential of machine learning for accelerating scientific discovery.

研究动机与目标

• 开发一种能够从真实观测数据中发现物理定律的机器学习框架，而非模拟或理想化数据集。
• 在发现基本物理定律的同时，推断未在数据中直接观测到的物理属性——特别是天体的质量。
• 证明符号回归可以有效应用于真实世界中具有噪声和复杂性的数据，方法是在训练可微分神经网络模拟器之后再应用符号回归。
• 通过将发现的定律和质量估计与已知物理定律及真实观测数据进行比较，验证该方法的准确性。
• 建立一种可扩展、可解释且通用的自动化科学理论发现方法，适用于复杂动力系统。

提出的方法

• 基于图网络（GN）的神经模拟器在30年的真实太阳系轨道轨迹数据上进行训练，以位置和速度作为节点特征，物理相互作用作为边。
• 通过梯度下降优化图网络的边函数（即计算天体之间作用力的函数），以预测未来轨迹，从而有效学习N体动力学的可微分模拟器。
• 训练完成后，提取边函数并进行符号回归，以发现最匹配学习到的力函数的解析公式。
• 将发现的符号方程（牛顿万有引力定律）作为固定物理定律，同时通过微调模拟器使用新方程重新学习天体质量。
• 该方法利用了牛顿第二、第三定律、球对称性以及对数单位等归纳偏置，以提高学习效率和准确性。
• 通过将最终模型的预测轨迹与真实观测轨迹进行比较来评估性能，误差指标以对数空间和质量估计的百分比误差形式报告。

实验结果

研究问题

• RQ1 机器学习系统能否在事先不知晓物理定律的情况下，从未知的、具有噪声的轨道轨迹数据中重新发现牛顿万有引力定律？
• RQ2 该方法能否同时推断出数据中未直接观测到的天体质量？
• RQ3 将符号回归应用于学习到的神经网络模拟器，是否能比直接对原始数据应用符号回归获得更准确、更具泛化能力的物理定律？
• RQ4 与直接符号回归相比，使用可微分神经网络模拟器在方程发现中的效率和准确性有何提升？
• RQ5 归纳偏置（如物理对称性与坐标系）在真实世界数据中对自动化理论发现的成功程度有多大影响？

主要发现

• 符号回归步骤成功恢复了牛顿万有引力定律的正确形式，与两个天体之间引力作用的解析表达式完全匹配。
• 在使用发现的方程重新估计质量后，质量估计的平均百分比误差降低至约1.6%，相比初始神经网络训练阶段的误差降低了五倍。
• 质量估计误差与天体引力影响之间的皮尔逊相关系数在对数空间中从-0.64提升至-0.87，表明与物理直觉的对齐程度更强。
• 使用符号方程和重新学习的质量进行的轨迹预测，与使用正确参数的牛顿引力理论预测的轨迹几乎完全一致，优于原始神经网络和单独使用符号回归的结果。
• 最终模型的泛化能力优于神经网络，因为符号方程在所有尺度上均有效，而神经网络仅限于训练期间见过的输入分布。
• 该方法表明，将可微分神经模拟器与符号回归结合，能够高效、准确且可解释地从真实世界数据中发现物理定律。