[논문 리뷰] Physics-Informed Machine Learning: A Survey on Problems, Methods and Applications

Zhongkai Hao, Songming Liu외 5명|arXiv (Cornell University)|2022. 11. 15.

Model Reduction and Neural Networks인용 수 88

한 줄 요약

이 설문조사는 물리정보 기반(priors)이 데이터 기반 모델과 어떻게 결합되는지에 대해 검토하며, PIML의 표현, 방법 및 응용을 다룬다.

ABSTRACT

Recent advances of data-driven machine learning have revolutionized fields like computer vision, reinforcement learning, and many scientific and engineering domains. In many real-world and scientific problems, systems that generate data are governed by physical laws. Recent work shows that it provides potential benefits for machine learning models by incorporating the physical prior and collected data, which makes the intersection of machine learning and physics become a prevailing paradigm. By integrating the data and mathematical physics models seamlessly, it can guide the machine learning model towards solutions that are physically plausible, improving accuracy and efficiency even in uncertain and high-dimensional contexts. In this survey, we present this learning paradigm called Physics-Informed Machine Learning (PIML) which is to build a model that leverages empirical data and available physical prior knowledge to improve performance on a set of tasks that involve a physical mechanism. We systematically review the recent development of physics-informed machine learning from three perspectives of machine learning tasks, representation of physical prior, and methods for incorporating physical prior. We also propose several important open research problems based on the current trends in the field. We argue that encoding different forms of physical prior into model architectures, optimizers, inference algorithms, and significant domain-specific applications like inverse engineering design and robotic control is far from being fully explored in the field of physics-informed machine learning. We believe that the interdisciplinary research of physics-informed machine learning will significantly propel research progress, foster the creation of more effective machine learning models, and also offer invaluable assistance in addressing long-standing problems in related disciplines.

연구 동기 및 목표

• 강인성과 일반화 성능을 향상시키기 위해 물리 법칙과 데이터 기반 학습의 결합 필요성을 제시한다.
• 물리 priors를 표현하고 이를 ML 모델에 통합하기 위한 형식적 프레임워크를 제공한다.
• PIML에서의 신경 시뮬레이션 접근법(신경 솔버와 신경 연산자) 및 역문제를 조망한다.
• PIML에서의 학제간 연구를 가속하기 위한 미해결 과제와 향후 방향을 식별한다.

제안 방법

• PDE/ODE/SDE, 대칭성, 직관적 물리학으로부터의 물리 priors를 유도 편향으로 정의한다.
• 물리 priors가 데이터, 모델 아키텍처, 손실 함수, 최적화 알고리즘, 추론에 어떻게 내재될 수 있는지 설명한다.
• Physics-Informed Neural Networks (PINNs) 프레임워크와 그 손실 공식을 제시한다.
• 신경 솔버와 신경 연산자를 신경 시뮬레이션 도구로서 논의한다.
• 컴퓨터 비전 및 강화 학습 과제에 priors를 통합하기 위한 전략을 개략한다.

실험 결과

연구 질문

• RQ1 ML 모델을 안내하는 데 가장 효과적인 물리 priors의 형태는 어떤 것들인가(강한 것에서 약한 것까지)?
• RQ2 물리 priors를 데이터, 아키텍처, 손실, 최적화, 추론 구성 요소에 ML 워크플로우에 어떻게 통합할 수 있는가?
• RQ3 PINNs, DeepONet 및 관련 방법의 주요 진전, 한계 및 이론적 보장은 무엇인가?
• RQ4 과학, 공학 및 AI for Science에서 PIML을 발전시킬 수 있는 미해결 문제와 향후 방향은 무엇인가?

주요 결과

• 물리정보 priors는 학습을 물리적으로 그럴듯한 해로 제약함으로써 강인성, 해석 가능성, 일반화를 향상시킬 수 있다.
• PIML은 PINNs 같은 신경 솔버와 신경 연산자를 통해 데이터와 물리 법칙을 통합하여 순방향 및 역문제를 가능하게 한다.
• 대칭성, 보존 법칙, 직관적 물리학은 PDE/ODE/SDE를 넘어서는 유연하고 더 약한 귀납 편향을 제공한다.
• 과학 분야, 컴퓨터 비전, 강화 학습 전반에 걸쳐 광범위한 응용이 존재하며, 학제간 잠재력을 강조한다.