[논문 리뷰] Solving Allen-Cahn and Cahn-Hilliard Equations using the Adaptive Physics Informed Neural Networks

Colby Wight, Jia Zhao|arXiv (Cornell University)|2020. 07. 09.

Model Reduction and Neural Networks참고 문헌 28인용 수 32

한 줄 요약

본 논문은 adaptive space/time sampling 및 학습 전략을 도입하여 phase-field 방정식(Allen–Cahn 및 Cahn–Hilliard)에 대한 physics-informed neural networks (PINNs)의 정확도와 효율성을 크게 개선한다.

ABSTRACT

Phase field models, in particular, the Allen-Cahn type and Cahn-Hilliard type equations, have been widely used to investigate interfacial dynamic problems. Designing accurate, efficient, and stable numerical algorithms for solving the phase field models has been an active field for decades. In this paper, we focus on using the deep neural network to design an automatic numerical solver for the Allen-Cahn and Cahn-Hilliard equations by proposing an improved physics informed neural network (PINN). Though the PINN has been embraced to investigate many differential equation problems, we find a direct application of the PINN in solving phase-field equations won't provide accurate solutions in many cases. Thus, we propose various techniques that add to the approximation power of the PINN. As a major contribution of this paper, we propose to embrace the adaptive idea in both space and time and introduce various sampling strategies, such that we are able to improve the efficiency and accuracy of the PINN on solving phase field equations. In addition, the improved PINN has no restriction on the explicit form of the PDEs, making it applicable to a wider class of PDE problems, and shedding light on numerical approximations of other PDEs in general.

연구 동기 및 목표

• phase-field 모델(Allen–Cahn 및 Cahn–Hilliard)의 수치 해를 neural networks를 사용하여 개선하려는 동기 부여.
• 기저의 PINNs가 phase-field 문제에서 뚜렷한 계면과 시간 진화를 다루는 데 가지는 한계를 확인.
• PINN의 정확도와 효율성을 높이기 위한 adaptive sampling 및 시간 적응 전략을 개발.
• 벤치마크 문제를 통해 고차원 및 복잡한 기하학에의 적용 가능성을 입증.

제안 방법

• baseline PINN 공식화를 검토하고 이를 Burgers’ equation에 적용하여 동기를 부여.
• 초기-시간 학습을 강조하고 확산형 다이나믹스를 강제하기 위해 가중 손실(weighted loss)을 도입.
• PINN 최적화의 수렴성을 개선하기 위해 미니배칭(mini-batching)을 활용.
• f-network 오차 지시자에 의해 이동하는 계면에 집중하도록 공간에서의 적응적 정합점 샘플링(adaptive collocation point sampling)을 개발.
• 두 가지 시간 적응 전략: (i) 시간 간격 내의 적응적 시간/공간 샘플링, (ii) 시간 단위마다 별도의 네트워크로 시간 순회(time-marching)
• Allen–Cahn 및 Cahn–Hilliard 방정식에 1D, 2D, 3D 설정에서 벤치마크 드롭 및 L-형 도메인을 포함하여 적용.

실험 결과

연구 질문

• RQ1 공간과 시간에서의 적응적 샘플링이 Allen–Cahn 및 Cahn–Hilliard 방정식에 대한 PINN 정확도를 향상시키는가?
• RQ2 가중 손실 및 미니배칭이 페이즈-필드 PINN의 수렴 및 정확도에 어떤 영향을 미치는가?
• RQ3 시간-적응 전략이 이동하는 뾰족한 계면과 CH 방정식의 고차 도함수를 해결하는 데 효과적인가?
• RQ4 고차원 및 복잡한 기하학에서 적응형 PINN의 성능은 어떠한가?

주요 결과

• Baseline PINN은 Allen–Cahn 방정식을 정확하게 해결하는 데 어려움을 겪는다.
• 손실 가중치 항을 추가하면 초기 학습은 향상되나 완전한 수렴에 도달하지 못할 수 있다.
• 미니배칭은 수렴 및 정확도에 일부 이점을 제공한다.
• 적응적 정합점 재샘플링은 정확도를 크게 향상시키며(상대 l2 오차 2.33e-2로 하락), 훨씬 적은 정합점(2,000대 vs 10,000)으로도 가능하다.
• 시간 적응 전략(적응적 시간 간격 및 시간 순회)은 고난도 사례(예: gamma2=4의 AC)에서 고정 시간 방법이 실패하는 경우에도 정확한 해를 가능케 한다.
• 적응적 시간 순회와 시간 적응 샘플링은 2D 및 3D Allen–Cahn 결과에서도 Shrinking drop 벤치마크 및 복잡한 L-형 도메인을 포함하여 정확하다.
• Cahn–Hilliard 실험은 고차 PDE에서의 적응형 PINN 프레임워크의 가능성을 시사하나 발췌문에서 자세히 다루지 않음.