[논문 리뷰] Learning Parameters and Constitutive Relationships with Physics Informed Deep Neural Networks

Alexandre M. Tartakovsky, Carlos Ortiz Marrero외 3명|arXiv (Cornell University)|2018. 08. 10.

Model Reduction and Neural Networks참고 문헌 19인용 수 76

한 줄 요약

물리 정보 기반 심층 신경망을 사용하여 PDE의 미지의 매개변수와 구성 관계를 데이터와 지배 방정식을 모두 이용해 추정하며, 일부 측정값이 누락된 경우에도 가능하다.

ABSTRACT

We present a physics informed deep neural network (DNN) method for estimating parameters and unknown physics (constitutive relationships) in partial differential equation (PDE) models. We use PDEs in addition to measurements to train DNNs to approximate unknown parameters and constitutive relationships as well as states. The proposed approach increases the accuracy of DNN approximations of partially known functions when a limited number of measurements is available and allows for training DNNs when no direct measurements of the functions of interest are available. We employ physics informed DNNs to estimate the unknown space-dependent diffusion coefficient in a linear diffusion equation and an unknown constitutive relationship in a non-linear diffusion equation. For the parameter estimation problem, we assume that partial measurements of the coefficient and states are available and demonstrate that under these conditions, the proposed method is more accurate than state-of-the-art methods. For the non-linear diffusion PDE model with a fully unknown constitutive relationship (i.e., no measurements of constitutive relationship are available), the physics informed DNN method can accurately estimate the non-linear constitutive relationship based on state measurements only. Finally, we demonstrate that the proposed method remains accurate in the presence of measurement noise.

연구 동기 및 목표

• 제한된 데이터로 PDE의 매개변수 및 구성 관계의 닫힘 문제를 다루는 동기를 제시한다.
• 상태와 미지 함수들을 함께 학습하는 물리 정보 기반 DNN 프레임워크를 개발한다.
• 선형 확산 방정식에서 공간 의존 확산 계수의 학습을 시연한다.
• 비선형 확산 방정식에서 상태 의존 구성 관계를 학습하는 것을 시연한다.
• 전통적인 MAP 기반 방법과의 성능 비교 및 노이즈에 대한 강건성을 평가한다.

제안 방법

• 상태 u(x)와 미지 구성 관계 K(x,u)에 대해 두 개의 DNN을 정의한다.
• DNN을 PDE와 경계 조건에 대입하여 보조 DNN을 구성하고 자동 미분으로 도함수를 계산한다.
• 데이터 오차, 경계 조건 잔차, 그리고 콜로케이션 포인트에서의 PDE 잔차를 결합한 손실을 최소화하여 네트워크를 학습한다.
• 학습을 위해 Xavier 초기화를 사용하고, 준-뉴턴 L-BFGS-B 최적화기를 사용한다.
• K(x)가 있는 선형 확산과 K(u)가 있는 비선형 확산에서의 성능을 평가하며, 노이즈 강건성도 포함한다.

실험 결과

연구 질문

• RQ1 물리 정보 기반 DNN이 K와 u의 부분 측정으로부터 미지의 공간 의존 확산 계수 K(x)을 정확하게 학습할 수 있는가?
• RQ2 K가 완전히 미지인 경우에도 u의 측정치만으로 미지의 비선형 구성 관계 K(u)를 재구성할 수 있는가?
• RQ3 PDE 제약 조건을 포함하는 것이 전통적인 MAP 방법과 비교하여 추정 정확도에 어떤 영향을 미치는가?
• RQ4 초기화, 콜로케이션 포인트 배치, 측정 희소성에 대해 방법의 민감도는 어느 정도인가?

주요 결과

• K(x)가 있는 선형 확산에서 부분 측정 시 상대적 L2 오차는 u에 대해 약 0.5%, K에 대해 약 1.7%였다.
• PDE 제약 조건을 강제하면 K와 u의 오차가 대략 50% 감소한다.
• K 측정치는 오차 감소에 있어 u 측정보다 더 정보가 풍부하며, K 데이터가 증가하면 K와 u 추정 모두가 개선된다.
• K(u)가 미지이고 직접적인 K 측정이 없는 비선형 확산의 경우, 상태 측정만으로도 K(u)를 정확하게 추정한다.
• 관찰 노이즈가 1% 이하인 경우에도 접근 방식은 정확하며, 테스트 시나리오에서 u의 상대 오차는 7.4e-4, K는 6.4e-3이다.