[논문 리뷰] Hybrid Finite Difference with the Physics-informed Neural Network for solving PDE in complex geometries

Zixue Xiang, Wei Peng외 2명|arXiv (Cornell University)|2022. 02. 16.

Model Reduction and Neural Networks인용 수 12

한 줄 요약

이 논문은 복잡한 기하구조에서 PDE를 해결하는 데 있어 정확성과 효율성을 향상시키기 위해 유한차분법(FDM)과 물리 기반 신경망(PINN)을 조합한 하이브리드 방법인 HFD-PINN를 제안한다. 정규 영역에서는 자동 미분을 국소 FDM로 대체하면서 복잡한 경계에서는 여전히 자동 미분을 유지하고, 메시 생성을 피하기 위해 부호거리함수를 도입한 HFD-PINN-sdf를 제안함으로써, 비정규 영역에서 표준 AD-PINN 대비 예측 오차가 최대 40배까지 감소함을 입증하였다.

ABSTRACT

The physics-informed neural network (PINN) is effective in solving the partial differential equation (PDE) by capturing the physics constraints as a part of the training loss function through the Automatic Differentiation (AD). This study proposes the hybrid finite difference with the physics-informed neural network (HFD-PINN) to fully use the domain knowledge. The main idea is to use the finite difference method (FDM) locally instead of AD in the framework of PINN. In particular, we use AD at complex boundaries and the FDM in other domains. The hybrid learning model shows promising results in experiments. To use the FDM locally in the complex boundary domain and avoid the generation of background mesh, we propose the HFD-PINN-sdf method, which locally uses the finite difference scheme at random points. In addition, the signed distance function is used to avoid the difference scheme from crossing the domain boundary. In this paper, we demonstrate the performance of our proposed methods and compare the results with the different number of collocation points for the Poisson equation, Burgers equation. We also chose several different finite difference schemes, including the compact finite difference method (CDM) and crank-nicolson method (CNM), to verify the robustness of HFD-PINN. We take the heat conduction problem and the heat transfer problem on the irregular domain as examples to demonstrate the efficacy of our framework. In summary, HFD-PINN, especially HFD-PINN-sdf, are more instructive and efficient, significantly when solving PDEs in complex geometries.

연구 동기 및 목표

• 표준 PINN가 복잡하거나 비정규 기하구조에서 PDE를 해결하는 데 겪는 한계를 해결하기 위해.
• 자기 미분(AD)이 수치적 불안정성이나 부정확성을 유발하는 영역에서 AD에 대한 의존도를 줄이기 위해.
• 배경 메시 생성이 필요 없는 메시리스 유한차분법 접근을 통해 복잡한 영역에서 메시 생성의 필요성을 제거하기 위해.
• 다른 공간 영역에서 FDM과 PINN를 하이브리드로 사용하여 해의 정확성과 학습 안정성을 향상시키기 위해.
• 다양한 수의 콜로케이션 포인트와 다양한 유형의 PDE에서 메서드의 강건성을 검증하기 위해.

제안 방법

• HFD-PINN 프레임워크는 정규 영역에서는 자동 미분을 국소 유한차분법 스킴으로 대체하면서도, 복잡한 경계에서는 여전히 자동 미분을 유지한다.
• HFD-PINN-sdf 변종은 부호거리함수를 사용하여 임의의 콜로케이션 포인트에서 국소 스킴을 정의함으로써 경계를 넘는 것을 방지한다.
• 유한차분 스킴은 부호거리함수를 이용해 각 점에서 적응적으로 적용되어 비정규 경계 근처의 정확성을 보장한다.
• 이 방법은 PDE 잔여항, 초기 조건 및 경계 조건을 손실 함수에 통합하며, 잔여항 내 도함수 계산에 FDM을 사용한다.
• 안정성 평가를 위해 여러 유한차분 스킴—예를 들어, 컴팩트 유한차분법(CDM)과 크랭크-니콜슨 방법(CNM)—을 평가하였다.
• 프레임워크는 하이퍼볼릭 탄젠트 활성화 함수를 사용하는 완전 연결 딥 신경망으로 구성되며, 10,000회 반복 동안 Adam 옵timizer로 학습된다.

실험 결과

연구 질문

• RQ1 정규 영역에서 자동 미분을 유한차분으로 대체함으로써, 비정규 기하구조에서 PDE를 해결하는 데 있어 PINN의 정확성을 향상시킬 수 있는가?
• RQ2 부호거리함수의 사용이 경계를 넘지 않고 메시 없는 유한차분 근사화를 가능하게 하는가?
• RQ3 다양한 유한차분 스킴(예: CDM, CNM)이 하이브리드 HFD-PINN의 수렴성과 안정성에 미치는 영향은 무엇인가?
• RQ4 콜로케이션 포인트의 수가 HFD-PINN와 HFD-PINN-sdf의 성능에 미치는 영향은 무엇인가?
• RQ5 HFD-PINN-sdf는 극도로 비정규적인 영역에서 표준 AD-PINN를 초월할 수 있는가?

주요 결과

• HFD-PINN-sdf는 별형 도메인을 가진 2차원 푸아송 방정식에서 상대 L2 예측 오차를 0.013으로 줄여, AD-PINN를 크게 능가하였다.
• 비정규 도메인 테스트 케이스에서 HFD-PINN-sdf의 예측 정확도는 AD-PINN보다 40배 이상 뛰어났다.
• 손실 함수의 수렴이 AD-PINN보다 더 안정적이었으며, 손실 변화 곡선도 경계 오차와 도메인 오차가 낮게 나타났다.
• 예리한 비정규 경계와 모서리 영역을 효과적으로 처리하였으며, 중심 및 모서리에 구멍이 있는 열전도 및 열전달 문제에서 이를 입증하였다.
• 부호거리함수의 사용은 배경 메시 생성 없이도 정확한 국소 유한차분 스킴을 가능하게 하였다.
• 프레임워크는 다양한 PDE 유형(Poisson, Burgers)과 다양한 수의 콜로케이션 포인트에서 강건성을 보였다.