[논문 리뷰] Deep symbolic regression for physics guided by units constraints: toward the automated discovery of physical laws

Wassim Tenachi, Rodrigo Ibata외 1명|arXiv (Cornell University)|2023. 03. 06.

Evolutionary Algorithms and Applications참고 문헌 52인용 수 4

한 줄 요약

이 논문은 물리적 단위 일관성을 기본적으로 통합한 딥 강화학습 기반의 기호적 회귀 프레임워크인 Φ-SO를 소개한다. 이는 검색 공간을 극적으로 줄이고 물리 법칙 발견 성능을 향상시킨다. 노이즈가 섞인 물리 기반 벤치마크에서 최신 기술 성능을 달성하며, 천문학에서 복잡한 해석적 표현, 이전 방법으로는 도달하지 못한 것들까지 성공적으로 복원한다.

ABSTRACT

Frozen release of github.com/WassimTenachi/PhySO for: - The ApJ paper "Deep symbolic regression for physics guided by units constraints: toward the automated discovery of physical laws" - The NeurIPS ML4PS proceeding "Physical Symbolic Optimization" Main feature: Symbolic Regression guided by Dimensional Analysis. Version: v1.0.0

연구 동기 및 목표

• 기본적으로 물리적 단위 제약 조건을 기호적 회귀에 통합하여 데이터에서 물리 법칙 자동 발견의 과제를 해결한다.
• 생성 과정 중에 차원 분석을 문법적 제약 조건으로 삽입함으로써 후보 식의 조합 폭발을 줄인다.
• 사전에 물리적 일관성을 강제하여 일반화 능력과 강건성을 향상시켜, 특히 노이즈가 많은 데이터 조건에서도 성능을 향상시킨다.
• 기존 기호적 회귀 방법이 도달하지 못하는 천문학에서의 해석적으로 복잡한 표현, 예를 들어 은하 역학에서의 반경 방향 운동량을 복원할 수 있도록 한다.
• 데이터 기반 물리학 및 천문학 응용 분야에서 블랙박스 딥 러닝 모델에 대한 확장 가능하고 해석 가능하며 물리적으로 타당한 대안을 제공한다.

제안 방법

• 프레임워크는 각 하위 식의 누적 물리적 단위를 추적하면서 기호적 식을 생성하기 위해 순환 신경망(RNN)을 사용한다.
• 딥 강화학습을 적용하여 RNN을 정확도와 단위 일관성에 기반한 보상 최대화를 위해 훈련한다.
• 물리적 단위는 매 식 구성 단계에서 차원(예: 길이, 시간, 질량)을 추적하는 커스텀 임bedding 레이어를 통해 강제한다.
• 검색 과정에서 유효하지 않은 식을 제거하기 위해 '단위 사전'을 도입하여, 간단한 예시에서 검색 공간을 268에서 단 6으로 줄인다.
• 복잡한 함수에서 성능을 향상시키기 위해 추가 분리 가능성(Udrescu & Tegmark, 2020)과 같은 사전 처리 기법을 활용한다.
• 정책 기반 강화학습 방법을 사용해 엔드 투 엔드로 알고리즘을 훈련하며, 낮은 오차와 정확한 차원 균형을 동시에 선호하도록 보상 함수를 설계한다.

실험 결과

연구 질문

• RQ1 기호적 식 생성 과정에서 물리적 단위 일관성을 강제하면 물리학 분야에서 기호적 회귀의 효율성과 정확도가 크게 향상되는가?
• RQ2 차원 분석을 문법적 제약 조건으로 통합할 경우, 노이즈가 많고 복잡한 물리적 데이터 세트에서의 성능에 어떤 영향을 미치는가?
• RQ3 표준 기호적 회귀 기반 모델이 놓치는 비틀림 없는 물리 법칙, 예를 들어 특수 상대성 이론이나 우주론의 법칙을 이 방법이 발견할 수 있는가?
• RQ4 이 프레임워크는 기존 방법이 실패하는 천문학 분야에서 해석적으로 복잡한 표현, 예를 들어 이소크로노 퍼텐셜에서의 반경 방향 운동량을 어느 정도 복원할 수 있는가?
• RQ5 높은 수준의 데이터 노이즈 하에서 이 방법은 얼마나 강건한가? 다양한 물리적 영역으로의 일반화 능력은 어떠한가?

주요 결과

• Φ-SO는 페인만 강의록과 물리학 교과서에서 유래한 120개 식의 벤치마크에서 17개의 기준 모델을 압도하며 최신 기술 성능을 달성한다. 특히 0.1%를 초과하는 노이즈 수준에서 뛰어난 성능을 보인다.
• 10%의 노이즈 수준에서도 일관된 성능을 유지하며, 다른 접근 방식이 실패하는 상황에서도 강건성을 입증한다.
• 표준 Petersen 등(2021a) 방법이 해결하지 못한 상대론적 에너지 식 E = γmc²를 성공적으로 복원한다.
• Ia형 초신성의 허블 도표에서 Φ-SO는 표준 ΛCDM 형태의 허블 파라미터 H(z)를 복원하지만, 고립된 상태에서 데이터를 더 잘 맞추는 더 단순한 대안 모델도 식별한다.
• 이소크로노 퍼텐셜에서 반경 방향 운동량을 포함한 복잡한 은하 역학 문제에서는 초기에 실패했지만, 추가 분리 가능성 사전 처리를 적용한 후 정확한 식을 복원한다.
• 차원 분석을 내장된 제약 조건으로 통합함으로써 검색 공간이 수십만 배에서 수천 배로 감소하여 물리적으로 타당한 식 탐색을 효율적으로 가능하게 한다.