[논문 리뷰] Rediscovering orbital mechanics with machine learning

Pablo Lemos, N Jeffrey외 3명|arXiv (Cornell University)|2022. 02. 04.

Machine Learning in Materials Science인용 수 11

한 줄 요약

이 논문은 실제 궤도 경로 데이터만을 사용하여 뉴턴의 만유인력 법칙을 재발견하고 태양계 천체의 질량을 정확하게 추정하는 두 단계 기반 기계학습 프레임워크를 제시한다. 관측된 위치와 속도를 기반으로 그래프 네트워크 시뮬레이터를 먼저 훈련한 후, 추론 가능한 물리 법칙을 추출하기 위해 기호 회귀를 적용함으로써, 이 방법은 정확한 만유인력 공식을 복원하고 질량 추정에서 약 1.6%의 평균 백분율 오차를 달성했으며, 신경망 또는 기호 회귀만을 사용한 경우보다 뛰어난 성능을 보였다.

ABSTRACT

We present an approach for using machine learning to automatically discover the governing equations and hidden properties of real physical systems from observations. We train a "graph neural network" to simulate the dynamics of our solar system's Sun, planets, and large moons from 30 years of trajectory data. We then use symbolic regression to discover an analytical expression for the force law implicitly learned by the neural network, which our results showed is equivalent to Newton's law of gravitation. The key assumptions that were required were translational and rotational equivariance, and Newton's second and third laws of motion. Our approach correctly discovered the form of the symbolic force law. Furthermore, our approach did not require any assumptions about the masses of planets and moons or physical constants. They, too, were accurately inferred through our methods. Though, of course, the classical law of gravitation has been known since Isaac Newton, our result serves as a validation that our method can discover unknown laws and hidden properties from observed data. More broadly this work represents a key step toward realizing the potential of machine learning for accelerating scientific discovery.

연구 동기 및 목표

• 모의 또는 이상화된 데이터셋이 아닌 실제 관측 데이터에서 물리 법칙을 발견할 수 있는 기계학습 프레임워크를 개발하는 것.
• 관측되지 않은 물리적 성질—특히 천체의 질량—을 물리 법칙 발견과 함께 추론하는 것.
• 기본적인 물리 법칙의 발견을 위해 기호 회귀를 실제 노이즈가 많고 복잡한 데이터에 효과적으로 적용하기 위해, 먼저 미분 가능한 신경망 시뮬레이터를 훈련시키는 방법을 제시하는 것.
• 발견된 법칙과 질량 추정치를 알려진 물리 법칙 및 진짜 관측 데이터와 비교하여 정확도를 검증하는 것.
• 복잡한 천체 역학 시스템에서 자동 과학 이론 발견을 위한 확장 가능하고 해석 가능하며 일반화 가능한 접근법을 수립하는 것.

제안 방법

• 실제 태양계 궤도 경로 데이터 30년치를 기반으로 그래프 네트워크(GN) 기반 신경 시뮬레이터를 훈련시키며, 노드 특징으로 위치와 속도를, 간선으로 물리적 상호작용을 사용한다.
• GN의 간선 함수는 천체 간 힘을 계산하며, 향후 궤도를 예측하기 위해 경사 하강법으로 최적화되어 N체 역학의 미분 가능한 시뮬레이터를 효과적으로 학습한다.
• 훈련 후 간선 함수가 추출되어 기호 회귀에 의해 학습된 힘 함수와 가장 잘 일치하는 분석적 공식을 발견한다.
• 발견된 기호 수식(뉴턴의 만유인력 법칙)은 고정된 물리 법칙으로 사용되며, 이 공식을 기반으로 천체의 질량을 재학습시켜 시뮬레이터를 미세조정한다.
• 학습 효율성과 정확도를 향상시키기 위해 牛頓 제2법칙, 제3법칙, 구형 대칭성, 로그 단위 등의 인덕티브 바이어스를 활용한다.
• 성능 평가는 최종 모델이 예측한 궤도와 진짜 관측 궤도를 비교하여 평가되며, 오차 지표는 로그 공간과 질량 추정의 백분율 오차로 보고된다.

실험 결과

연구 질문

• RQ1 기계학습 시스템이 물리 법칙에 대한 사전 지식 없이 실제 노이즈가 많은 궤도 경로 데이터에서 뉴턴의 만유인력 법칙을 재발견할 수 있는가?
• RQ2 이 방법은 관측 데이터에 직접 포함되지 않은 천체의 질량을 동시에 추론할 수 있는가?
• RQ3 기본 신경망 시뮬레이터에서 학습된 결과에 기호 회귀를 적용할 경우, 원시 데이터에 직접 기호 회귀를 적용하는 것보다 더 정확하고 일반화 가능한 물리 법칙을 도출할 수 있는가?
• RQ4 기본적으로 미분 가능한 신경망 시뮬레이터를 사용할 경우, 직접 기호 회귀와 비교해 방정정식 발견의 효율성과 정확도가 어떻게 향상되는가?
• RQ5 물리적 대칭성과 좌표계와 같은 인덕티브 바이어스가 실제 데이터에서 자동 이론 발견의 성공에 얼마나 기여하는가?

주요 결과

• 기호 회귀 단계에서 정확한 뉴턴의 만유인력 법칙의 형태를 성공적으로 복원하여 두 천체 간의 만유인력에 대한 분석적 표현을 일치시켰다.
• 발견된 공식을 기반으로 질량을 재추정한 결과, 질량 추정의 평균 백분율 오차는 약 1.6%로 감소하여 원래 신경망 훈련 대비 약 5배 향상되었다.
• 질량 추정 오차와 천체의 중력 영향력 간 피어슨 상관계수는 로그 공간에서 -0.64에서 -0.87로 향상되어 물리적 직관과의 일치성이 높아졌다.
• 재학습된 질량을 사용한 기호 수식 기반 궤도 예측은 뉴턴 역학의 정확한 파rameter를 사용한 경우와 거의 동일한 정도로 진짜 관측 궤도를 재현했으며, 원래의 신경망 및 기호 회귀만을 사용한 경우보다 뛰어난 성능을 보였다.
• 최종 모델은 신경망보다 더 잘 일반화되었으며, 기호 수식은 모든 스케일에서 유효하지만, 신경망은 훈련 중에 본 입력 분포에 국한되기 때문이다.
• 이 방법은 기반 신경망 시뮬레이터와 기호 회귀를 조합함으로써 실제 데이터에서 효율적이고 정확하며 해석 가능한 물리 법칙 발견이 가능하다는 것을 입증했다.