[論文レビュー] Physics-Informed Machine Learning: A Survey on Problems, Methods and Applications

Zhongkai Hao, Songming Liu+5 more|arXiv (Cornell University)|Nov 15, 2022

Model Reduction and Neural Networks被引用数 88

ひとこと要約

本調査は、物理情報に基づく事前知識がデータ駆動モデルとどのように統合されるかを概観し、PIML の表現、方法、および応用を扱う。

ABSTRACT

Recent advances of data-driven machine learning have revolutionized fields like computer vision, reinforcement learning, and many scientific and engineering domains. In many real-world and scientific problems, systems that generate data are governed by physical laws. Recent work shows that it provides potential benefits for machine learning models by incorporating the physical prior and collected data, which makes the intersection of machine learning and physics become a prevailing paradigm. By integrating the data and mathematical physics models seamlessly, it can guide the machine learning model towards solutions that are physically plausible, improving accuracy and efficiency even in uncertain and high-dimensional contexts. In this survey, we present this learning paradigm called Physics-Informed Machine Learning (PIML) which is to build a model that leverages empirical data and available physical prior knowledge to improve performance on a set of tasks that involve a physical mechanism. We systematically review the recent development of physics-informed machine learning from three perspectives of machine learning tasks, representation of physical prior, and methods for incorporating physical prior. We also propose several important open research problems based on the current trends in the field. We argue that encoding different forms of physical prior into model architectures, optimizers, inference algorithms, and significant domain-specific applications like inverse engineering design and robotic control is far from being fully explored in the field of physics-informed machine learning. We believe that the interdisciplinary research of physics-informed machine learning will significantly propel research progress, foster the creation of more effective machine learning models, and also offer invaluable assistance in addressing long-standing problems in related disciplines.

研究の動機と目的

• 頑健性と一般化能力を向上させるために、物理法則とデータ主導の学習を統合する必要性を動機づける。
• 物理的事前知識を表現し、それを ML モデルに組み込むための形式的なフレームワークを提供する。
• 神経シミュレーションアプローチ（ neural solvers と neural operators ）および PIML における逆問題を概説する。
• PIML における学際的研究を加速させるための未解決の課題と今後の方向性を特定する。

提案手法

• PDEs/ODEs/SDEs、対称性、直感的物理学を帰納的バイアスとして、物理的事前知識を定義する。
• 物理的事前知識をデータ、モデルアーキテクチャ、損失関数、オプティマイザ、推論に組み込む方法を説明する。
• Physics-Informed Neural Networks (PINNs) フレームワークとその損失公式を提示する。
• 神経ソルバーと神経オペレーターを神経シミュレーションツールとして議論する。
• コンピュータビジョンおよび強化学習タスクへ priors を統合する戦略を概説する。

実験結果

リサーチクエスチョン

• RQ1 ML モデルを導く際、どの形態の物理的事前知識（強いものから弱いものまで）が最も効果的ですか？
• RQ2 物理的事前知識をデータ、アーキテクチャ、損失、最適化、推論の各要素の中でどのように組み込むことができるか？
• RQ3 PINNs、DeepONet、および関連手法の主要な進展、制約、および理論的保証は何ですか？
• RQ4 科学・工学および科学のためのAIにおいて、PIML を前進させる未解決の問題と今後の方向性は何ですか？

主な発見

• 物理情報に基づく事前知識は、学習を物理的に妥当な解に制約することにより、頑健性、解釈性、および一般化能力を向上させることができる。
• PIML は、PINNs や neural operators のような neural solvers を通じてデータと物理法則を統合し、順問題と逆問題の両方を可能にする。
• 対称性、保存則、直感的物理学は、PDEs/ODEs/SDEs を超える柔軟で弱い帰納的バイアスを提供する。
• 科学分野、コンピュータビジョン、強化学習にまたがる広範な応用が存在し、学際的な可能性を示している。