[논문 리뷰] PINNs for the Solution of the Hyperbolic Buckley-Leverett Problem with a Non-convex Flux Function

Waleed Diab, Mohammed Al Kobaisi|arXiv (Cornell University)|2021. 12. 29.

Model Reduction and Neural Networks인용 수 7

한 줄 요약

이 논문은 비선형 불연속성 조건을 갖는 비선형 흐름을 가진 초구형 Buckley-Leverett 방정식을 해결하기 위해 물리 기반 신경망(PINN) 기반 접근법을 제안한다. 이 방법은 인위적 점성 항을 추가하지 않고도 Oleinik 엔트로피 조건을 잔차 손실에 직접 통합하여, 수치적 확산 없이 충격 front를 정확히 포착한다. Adam 최적화기와 잔차 기반 적응형 정렬(RAR)을 사용하여, L2 손실은 1×10⁻⁶, L2 검증 오차는 2×10⁻²을 달성하였으며, 추가적인 정규화나 손실 가중치 없이도 충격 front의 해상도를 유지한다.

ABSTRACT

The displacement of two immiscible fluids is a common problem in fluid flow in porous media. Such a problem can be posed as a partial differential equation (PDE) in what is commonly referred to as a Buckley-Leverett (B-L) problem. The B-L problem is a non-linear hyperbolic conservation law that is known to be notoriously difficult to solve using traditional numerical methods. Here, we address the forward hyperbolic B-L problem with a nonconvex flux function using physics-informed neural networks (PINNs). The contributions of this paper are twofold. First, we present a PINN approach to solve the hyperbolic B-L problem by embedding the Oleinik entropy condition into the neural network residual. We do not use a diffusion term (artificial viscosity) in the residual-loss, but we rely on the strong form of the PDE. Second, we use the Adam optimizer with residual-based adaptive refinement (RAR) algorithm to achieve an ultra-low loss without weighting. Our solution method can accurately capture the shock-front and produce an accurate overall solution. We report a L2 validation error of 2 x 10-2 and a L2 loss of 1x 10-6. The proposed method does not require any additional regularization or weighting of losses to obtain such accurate solution.

연구 동기 및 목표

• 비선형 불연속성 조건이 있는 초구형 Buckley-Leverett 문제를 물리 기반 신경망(PINN)을 사용하여 해결하는 데 도전하는 것.
• Oleinik 엔트로피 조건을 PINN 프레임워크에 직접 통합하여 잔차 손실에 인위적 점성 또는 확산 항을 추가할 필요 없이 물리적 일관성을 확보하는 것.
• 추가적인 정규화나 손실 가중치 없이도 충격 front 동역학에 대해 고정밀도 해를 달성하는 것.
• Adam 최적화기와 함께 사용된 잔차 기반 적응형 정렬(RAR)이 초구형 보존법칙의 손실 최소화에 효과적인지 입증하는 것.

제안 방법

• PINN 프레임워크는 확산 항을 추가하지 않고도 강한 형태의 초구형 Buckley-Leverett PDE를 해결한다.
• Oleinik 엔트로피 조건이 신경망 잔차에 직접 통합되어 물리적 일관성을 강제한다.
• Adam 최적화기를 사용하면서도 잔차 기반 적응형 정렬(RAR)을 통해 학습 가중치를 동적으로 조정하고 손실을 감소시킨다.
• 손실 함수는 PDE의 잔차와 엔트로피 조건에 의해만 정의되며, 추가적인 가중치나 정규화 없이 구성된다.
• 도메인 전역의 콜로케이션 점들을 활용하여 PDE와 엔트로피 조건을 동시에 강제한다.
• 해는 종단 간 학습을 통해 잔차 손실을 최소화하면서도 날카운 충격 front 해상도를 유지한다.

실험 결과

연구 질문

• RQ1 PINNs는 인위적 점성 없이도 비선형 불연속성 조건이 있는 초구형 Buckley-Leverett 문제를 정확히 해결할 수 있는가?
• RQ2 Oleinik 엔트로피 조건을 PINN 잔차에 직접 통합하는 것이 충격 불연속성을 포착하는 데 얼마나 효과적인가?
• RQ3 Adam 최적화기와 함께 사용된 잔차 기반 적응형 정렬(RAR)은 손실 가중치나 정규화 없이 초저손실을 달성할 수 있는가?
• RQ4 이 도전적인 초구형 보존법칙에서 L2 손실과 검증 오차는 어느 정도의 정밀도를 달성할 수 있는가?

주요 결과

• 해는 L2 손실 1×10⁻⁶을 달성하여 PDE 이행에 있어 극히 낮은 잔차 오차를 보였다.
• L2 검증 오차는 2×10⁻²이었으며, 미리 보지 않은 테스트 점들에 대해서도 높은 정확도를 보였다.
• 인위적 점성이나 수치적 확산을 도입하지 않아도 충격 front가 정확히 포착되었다.
• 추가적인 정규화나 손실 가중치 없이도 해는 안정적이고 정확했다.
• 잔차 기반 적응형 정렬(RAR)은 학습 중 수렴을 효과적으로 향상시키고 손실을 최소화하는 데 기여했다.
• PINN 프레임워크는 강한 형태의 PDE와 엔트로피 조건만을 사용하여 비선형 불연속성 조건이 있는 Buckley-Leverett 문제를 성공적으로 해결하였다.