[논문 리뷰] Comment on the article "Distilling free-form natural laws from experimental data"

Christopher J. Hillar, Friedrich T. Sommer|arXiv (Cornell University)|2012. 10. 26.

Model Reduction and Neural Networks참고 문헌 4인용 수 10

한 줄 요약

이 논문은 실험 데이터로부터 천연 법칙을 발견하는 슈미트와 리포슨의 기호 회귀 방법에서의 적합도 함수에 대한 비판을 제기하며, 이 함수가 일반 시스템에 대해 수학적으로 결함이 있으며 평탄하다는 것을 증명한다. 연구는 이 방법의 성공이 사전 지식 없이 법칙을 발견하기 때문이 아니라, 적합도 함수에 하미르토니안 및 라그랑주 역학이 암묵적으로 통합되어 있기 때문임을 보여주며, 진정으로 가정 없는 발견이라는 주장을 무너뜨린다.

ABSTRACT

In the article "Distilling free-form natural laws from experimental data", Schmidt and Lipson introduced the idea that free-form natural laws can be learned from experimental measurements in a physical system using symbolic (genetic) regression algorithms. An important claim in this work is that the algorithm finds laws in data without having incorporated any prior knowledge of physics. Upon close inspection, however, we show that their method implicitly incorporates Hamilton's equations of motions and Newton's second law, demystifying how they are able to find Hamiltonians and special classes of Lagrangians from data.

연구 동기 및 목표

• 스미스와 리포슨의 논문에서 제안한 자유형 천연 법칙을 발견하기 위한 적합도 함수의 수학적 타당성을 철저히 분석하는 것.
• 적합도 함수가 일반 시스템에 대해 평탄하고 효과적이지 않아 의미 있는 보존 법칙을 구분할 수 없음을 입증하는 것.
• 이 방법의 겉보기 성공이 하미르토니안의 방정식과 뉴턴의 제2법칙을 적합도 측정치에 암묵적으로 통합함으로써 비롯된다는 것을 드러내는 것.
• 시간 시리즈 데이터로부터 하미르토니안과 라그랑주를 유일하게 복원할 수 있는 이론적으로 타당한 적합도 함수를 제안하는 것.
• 알고리즘적 발견 과정에서 사전 물리적 지식이 없음을 주장하는 원본 논문의 오해를 명확히 하는 것.

제안 방법

• 식 [4, 식 S8]의 적합도 함수가 궤적을 따라 δx/δy | 쌍화 = dx/dy 이므로, 모든 함수 f에 대해 식이 항등적으로 0이 됨을 수학적으로 증명하는 것.
• 적합도 함수를 하미르토니안 운동 방정식 또는 잠재력에 의한 힘에 대한 뉴턴의 제2법칙으로 재해석하여, 이가 가정 없는 것이 아님을 보여주는 것.
• 기호 편미분과 상태 변수의 수치적 시간 도함수를 사용한 오일러-라그랑주 방정식에 기반한 새로운 적합도 함수를 제안하는 것.
• 각 시간 단계에서 f가 ∂H/∂q̇_i = dq_i/dt 와 ∂H/∂q_i = -dṗ_i/dt 를 만족하지 않을 경우의 편미분을 평가하는 하미르토니안 적합도 함수 HFit(f)를 개발하는 것.
• 시간 시리즈 데이터에서 오일러-라그랑주 표현식의 값이 0이 되는 것을 기반으로 한 라그랑주 적합도 함수 LFit(f)를 제안하는 것.
• 조화 진동자 예제를 사용하여 새로운 적합도 함수를 검증하여, 원래 함수는 평탄한 반면, 새로운 함수는 정확한 하미르토니안 매개변수에서 최고의 적합도를 보임을 보이는 것.

실험 결과

연구 질문

• RQ1 식 [4, 식 S8]에서 제안한 적합도 함수는 수학적으로 타당하며, 임의의 함수와 의미 있는 보존 법칙을 구분할 수 있는가?
• RQ2 기호 회귀가 하미르토니안과 라그랑주를 발견하는 데 성공하는 데 있어, 적합도 함수에 물리 법칙이 암묵적으로 포함되어 있음에 따라 얼마나 의존하는가?
• RQ3 시간 시리즈 데이터로부터 하미르토니안과 라그랑주를 사전 물리적 가정 없이 고유하게 복원할 수 있는 이론적으로 타당한 적합도 함수를 구성할 수 있는가?
• RQ4 왜 원래 방법은 하미르토니안에서는 성공했지만, 더블 펜듈럼의 라그랑주 함수처럼 일반적인 라그랑주 함수를 발견하지 못하는가?
• RQ5 기호 회귀를 위해 고전 역학 방정식의 구조(예: 오일러-라그랑주 또는 하미르토니안 방정식)를 직접적으로 적합도 함수에 통합할 수 있는 방법은 무엇인가?

주요 결과

• 식 [4, 식 S8]의 적합도 함수는 모든 함수 f에 대해 수학적으로 평탄하며, 이는 모든 후보 법칙에 동일한 적합도를 부여하므로 구별 능력이 없음을 의미한다.
• 원래 방법의 관찰된 성공은 가정 없는 발견 때문이 아니라, 적합도 함수가 하미르토니안의 방정식 또는 잠재력에 의한 힘에 대한 뉴턴의 제2법칙을 암묵적으로 내재하고 있기 때문이다.
• 적합도 함수를 하미르토니안의 방정식에 따라 재해석하면, 조화 진동자에서 검증된 바와 같이 유일한 하미르토니안을 정확히 식별할 수 있다.
• 오일러-라그랑주 방정식에 기반한 수정된 적합도 함수는 특수한 경우에서는 라그랑주를 복원할 수 있지만, 더블 펜듈럼과 같은 일반적인 라그랑주 함수에서는 실패한다.
• 하미르토니안과 오일러-라그랑주 방정식의 정확한 형태에 기반한 제안된 HFit(f) 및 LFit(f) 적합도 함수는 원래 방법과 달리 올바른 물리적 매개변수에서 최고의 적합도를 보인다.
• 조화 진동자에 대한 수치적 검증 결과, 원래 적합도 함수 (2)는 매개변수 공간 전체에서 평탄한 반면, 새로운 HFit(f) 함수는 ω² = 1일 때 (α, β, γ) = (0.5, 0, 0.5ω²)에서 진짜 하미르토니안을 정확히 식별한다.