[논문 리뷰] Physics-Guided Deep Learning for Dynamical Systems: A Survey

Rui Wang, Rose Yu|arXiv (Cornell University)|2021. 07. 02.

Model Reduction and Neural Networks인용 수 44

한 줄 요약

물리 기반 딥 러닝 방법이 동적 시스템에 미치는 영향에 대한 포괄적 고찰로, 네 가지 문제 유형(미분 방정식 풀이, 동역학 예측, 잔여학습, 그리고 방정식 발견)과 네 가지 구조/교리 범주, PINNs와 TF-Net 같은 사례 연구를 상세히 다룹니다.

ABSTRACT

Modeling complex physical dynamics is a fundamental task in science and engineering. Traditional physics-based models are sample efficient, and interpretable but often rely on rigid assumptions. Furthermore, direct numerical approximation is usually computationally intensive, requiring significant computational resources and expertise, and many real-world systems do not have fully-known governing laws. While deep learning (DL) provides novel alternatives for efficiently recognizing complex patterns and emulating nonlinear dynamics, its predictions do not necessarily obey the governing laws of physical systems, nor do they generalize well across different systems. Thus, the study of physics-guided DL emerged and has gained great progress. Physics-guided DL aims to take the best from both physics-based modeling and state-of-the-art DL models to better solve scientific problems. In this paper, we provide a structured overview of existing methodologies of integrating prior physical knowledge or physics-based modeling into DL, with a special emphasis on learning dynamical systems. We also discuss the fundamental challenges and emerging opportunities in the area.

연구 동기 및 목표

• 복잡한 동적 시스템을 효율적으로 모델링하기 위해 물리 법칙과 딥 러닝의 통합을 촉진한다.
• 손실 기반, 구조적, 하이브리드, 대칭 인식 접근법 전반에 걸쳐 물리 관념을 DL과 융합하는 방법을 분류하고 분석한다.
• 데이터 효율성, 일반화 및 방정식 발견의 도전 과제와 기회를 강조한다.
• 동적 시스템과 관련된 네 가지 핵심 문제 형식을 통해 구조화된 지침을 제공한다.

제안 방법

• 미분 방정식 풀이, 동역학 잔차 학습, 동역학 예측, 지배 방정식 발견의 네 가지 주요 학습 문제를 공식화한다.
• 훈련 중 소프트 물리 제약을 부여하는 물리 기반 손실 함수(예: PINNs)를 검토한다.
• 특수한 신경 모듈을 통해 하드 물리 제약을 강제하는 아키텍처 설계를 논의한다.
• 물리 솔버와 데이터 기반 구성요소를 결합한 하이브리드 물리- DL 모델을 다룬다.
• 물리적 대칭성을 존중하여 일반화를 향상시키는 불변/ 등변 DL 모델을 탐구한다.

실험 결과

연구 질문

• RQ1 동적 시스템을 위한 물리 기반 딥 러닝의 주요 문제 형식은 무엇인가?
• RQ2 손실 기반, 구조적, 하이브리드 및 대칭 기반 방법은 물리 지식을 어떻게 활용하는가?
• RQ3 안정성, 정확성 및 일반화 측면에서 물리 기반 DL의 장점과 한계는 무엇인가?
• RQ4 DL 기법을 통해 데이터에서 지배 방정식을 어떻게 발견할 수 있는가?
• RQ5 이 분야의 새롭게 떠오르는 기회와 도전과제는 무엇인가?

주요 결과

• 물리 기반 DL은 수치 해를 신경 예측기로 대체하거나 보강함으로써 데이터 시뮬레이션을 가속할 수 있다.
• 물리적 제약을 도입하면 과학적 타당성이 향상되고 시스템 간 일반화를 향상시킬 수 있다.
• 하드(아키텍처) 제약과 소프트(손실 기반) 제약은 정확도와 강건성에서 상호 보완적 이점과 절충점을 제공한다.
• 해밀토니안 및 라그랑지안 신경망은 학습된 동역학에서 에너지 보존 특성을 강제한다.
• 사례 연구는 물리적 일관성 향상을 보여주며, 예를 들어 난류 유동 예측에서 발산이 없는 속도장 및 에너지 스펙트럼 정렬 등이 있다.