[논문 리뷰] A shallow physics-informed neural network for solving partial differential equations on surfaces

Wei-Fan Hu, Yi-Jun Shih외 2명|arXiv (Cornell University)|2022. 03. 03.

Model Reduction and Neural Networks인용 수 4

한 줄 요약

이 논문은 수준 집합 함수를 사용하여 직교좌표계에서 표면 미분 연산자를 직접 표현함으로써 정적 및 변화하는 표면에서 편미분방정식(PDEs)을 해결하기 위한 얕은 물리 기반 신경망(PINN)을 제안한다. 이 방법은 법선 연장 제약 조건을 피하고, 단 몇 개의 뉴런으로도 높은 정확도를 달성하며, 1% 미만의 오차로 비틀림하는 드롭렛에서 시어 흐름 하에서 계면활성제의 이동을 성공적으로 시뮬레이션한다.

ABSTRACT

In this paper, we introduce a shallow (one-hidden-layer) physics-informed neural network for solving partial differential equations on static and evolving surfaces. For the static surface case, with the aid of level set function, the surface normal and mean curvature used in the surface differential expressions can be computed easily. So instead of imposing the normal extension constraints used in literature, we write the surface differential operators in the form of traditional Cartesian differential operators and use them in the loss function directly. We perform a series of performance study for the present methodology by solving Laplace-Beltrami equation and surface diffusion equation on complex static surfaces. With just a moderate number of neurons used in the hidden layer, we are able to attain satisfactory prediction results. Then we extend the present methodology to solve the advection-diffusion equation on an evolving surface with given velocity. To track the surface, we additionally introduce a prescribed hidden layer to enforce the topological structure of the surface and use the network to learn the homeomorphism between the surface and the prescribed topology. The proposed network structure is designed to track the surface and solve the equation simultaneously. Again, the numerical results show comparable accuracy as the static cases. As an application, we simulate the surfactant transport on the droplet surface under shear flow and obtain some physically plausible results.

연구 동기 및 목표

• 메시 없고 얕은 신경망 프레임워크를 개발하여 표면의 법선 연장 제약 조건에 의존하지 않고 곡면에서 PDE를 해결하는 것.
• 기존 PINN 방법에서 표면의 영속적 법선 도함수 제약 조건을 부과함으로써 발생하는 정확도 및 효율성의 한계를 개선하는 것.
• 기본적으로 표면의 위상적 기준 구조로의 동형사상(홈오모르피즘)을 학습하기 위해 사전 지정된 은닉층을 도입함으로써 변화하는 표면로의 방법 확장.
• 복잡한 기하학적 구조, 특히 이동하는 표면에서의 이동-확산 방정식과 같은 시간에 따라 변화하는 표면 PDE에 대한 방법의 능력을 입증하는 것.
• 실세계 적용 사례인 시어 흐름 하에서 드롭렛의 계면활성제 이동에 대한 방법의 검증.

제안 방법

• 표면 미분 연산자(기울기, 발산, 라플라스-벨트라미)는 표준 직교좌표 도함수와 수준 집합 함수로부터 유도된 표면 기하학을 사용하여 재구성된다.
• 손실 함수는 주변 유클리드 공간에서 PDE 잔여항을 벌점으로 처벌함으로써, 표면 곡률과 수준 집합 함수로부터 계산된 법선 벡터를 직접 통합한다.
• 해결책을 근사하기 위해 한 은닉층을 가진 신경망을 사용하여 효율적인 학습과 구현이 가능해진다.
• 변화하는 표면의 경우, 현재 표면과 기준 위상 간의 동형사상을 학습하기 위해 사전 지정된 은닉층을 도입하여 동시에 표면 추적과 PDE 해를 구현한다.
• 모든 학습 점에서 수준 집합 함수로부터 직접 표면 법선 및 평균 곡률을 계산하여 메시 생성이나 삼각분할을 피한다.
• 학습된 가중치와 편향을 가진 얕은 네트워크를 사용함으로써, 라디얼 기저 함수 방법에서 흔히 발생하는 조건수 악화 문제를 피한다.

실험 결과

연구 질문

• RQ1 법선 연장 제약 조건을 도입하지 않고도 얕은 PINN이 표면 PDE를 정확하게 해결할 수 있는가?
• RQ2 이 직교좌표 기반의 표면 연산자 공식화 방식은 기존의 임베딩 또는 메시 기반 방법과 비교해 성능가능성이 어떻게 다른가?
• RQ3 정확도와 안정성을 유지하면서 이 방법을 변화하는 표면로 확장할 수 있는가?
• RQ4 이 방법은 변형되는 드롭렛에서 계면활성제의 이동과 같은 복잡한 물리 현상을 시뮬레이션할 때 정확도가 어느 정도인가?
• RQ5 은닉층의 뉴런 수가 해의 정확도와 수렴에 어떤 영향을 미치는가?

주요 결과

• 복잡한 정적 표면에서 라플라스-벨트라미 방정식 및 표면 확산 방정식에 대해 오직 중간 정도의 뉴런 수로도 상대적 $L^2$ 오차가 $10^{-5}$ 이하로 유지된다.
• 이전의 PINN 방법은 법선 도함수 제약 조건을 부과했지만, 깊은 네트워크를 사용해도 오차가 1% 이상이었지만, 본 연구에서 제안한 방법은 이를 초월하여 우수한 성능을 보였다.
• 변화하는 표면의 경우에도 높은 정확도를 유지하였으며, 드롭렛 부피 및 계면활성제 질량 오차가 시간이 지남에 따라 1% 이하로 유지되었다.
• 시어 흐름 하에서 비틀림하는 드롭렛에서의 계면활성제 이동 시뮬레이션은 물리적으로 타당한 결과를 도출하였으며, 이는 방법의 실세계 유체역학 문제 적용 가능성에 대한 타당성을 입증한다.
• 수준 집합 함수의 사용은 표면 법선 및 평균 곡률의 정확한 계산을 가능하게 하여 표면 미분 연산자에 필수적인 요소가 된다.
• 얕은 네트워크 아키텍처는 빠른 학습과 구현을 보장하여, 실시간 또는 대규모 시뮬레이션에 실용적인 방법이 된다.