[논문 리뷰] Finite Volume Neural Network: Modeling Subsurface Contaminant Transport

Timothy Praditia, Matthias Karlbauer외 4명|arXiv (Cornell University)|2021. 04. 13.

Model Reduction and Neural Networks참고 문헌 13인용 수 11

한 줄 요약

이 논문은 유한체적법의 보존 구조를 신경망과 융합하여 지하 오염물질 이동을 모델링하는 물리정보 기반 딥러닝 프레임워크인 유한체적신경망(FINN)을 소개한다. FINN은 희소하거나 부분적인 데이터가 있는 상황에서도 시공간 농도 분포를 정확하고 일반화된 예측이 가능하며, 퇜력 인자와 같은 구성관계를 명시적으로 학습함으로써 경계 조건이 다양한 상황에서 표준 신경망과 수치적 PDE 모델에 비해 정확도와 강인성 면에서 뛰어나다.

ABSTRACT

Data-driven modeling of spatiotemporal physical processes with general deep learning methods is a highly challenging task. It is further exacerbated by the limited availability of data, leading to poor generalizations in standard neural network models. To tackle this issue, we introduce a new approach called the Finite Volume Neural Network (FINN). The FINN method adopts the numerical structure of the well-known Finite Volume Method for handling partial differential equations, so that each quantity of interest follows its own adaptable conservation law, while it concurrently accommodates learnable parameters. As a result, FINN enables better handling of fluxes between control volumes and therefore proper treatment of different types of numerical boundary conditions. We demonstrate the effectiveness of our approach with a subsurface contaminant transport problem, which is governed by a non-linear diffusion-sorption process. FINN does not only generalize better to differing boundary conditions compared to other methods, it is also capable to explicitly extract and learn the constitutive relationships (expressed by the retardation factor). More importantly, FINN shows excellent generalization ability when applied to both synthetic datasets and real, sparse experimental data, thus underlining its relevance as a data-driven modeling tool.

연구 동기 및 목표

• 제한적이고 희소한 데이터로 인해 표준 딥러닝 모델의 일반화 성능이 열 劣하는 시공간 물리적 과정 문제를 해결하기 위해.
• 기존 물리정보 기반 신경망에서 유량 보존 및 적절한 경계 조건 처리의 부재 문제를 해결하기 위해.
• 유한체적법의 구조적 보존 법칙을 학습 가능한 신경망 아키텍처에 통합하는 하이브리드 모델을 개발하기 위해.
• 일부 관측 자료(예: 단일 위치에서의 돌발 농도 곡선)로부터 전체 영역 예측을 정확히 수행할 수 있도록 하기 위해.
• 실험 데이터에서 퇄력 인자와 같은 숨겨진 구성관계를 추출하고 학습하기 위해.

제안 방법

• FINN은 유한체적법의 제어체적을 기반으로 신경망을 구성하며, 각 셀은 인접 셀의 유량을 기반으로 시간 도함수를 계산한다.
• 유량 커널(Φθ)은 PDE의 발산 항을 인접 셀의 입력을 사용하여 근사함으로써 국소적 유량 보존을 보장한다.
• 각 유량 커널은 수치 스텐실을 학습하는 하위 구성요소(N)와 농도에 따라 변화하는 확산 계수를 학습하는 하위 구성요소(D)를 포함한다.
• 모델은 돌발 농도 곡선이나 총 농도 프로파일과 같은 관측 자료를 기반으로 손실 함수를 사용하여 훈련된다.
• 경계 조건은 유한체적 프레임워크를 통해 자연스럽게 통합되어 딜레르흐, 뉴먼, 혼합 경계 조건을 적절히 처리할 수 있다.
• 아키텍처는 백프로파게이션을 통한 엔드 투 엔드 훈련을 가능하게 하여 물리적 구조와 학습 가능한 파라미터를 동시에 최적화할 수 있다.

실험 결과

연구 질문

• RQ1 유한체적법의 보존 구조를 내장한 신경망 아키텍처가 지하 오염물질 이동 문제에서 표준 딥러닝 모델보다 더 우수한 일반화 성능을 보일 수 있는가?
• RQ2 단일 돌발 농도 곡선과 같은 부분 관측 자료로만 훈련된 모델이 전체 농도 동역학을 얼마나 잘 예측할 수 있는가?
• RQ3 희소한 실험 데이터에서 농도에 따라 변화하는 퇴적 인자를 성공적으로 학습하고 추출할 수 있는가?
• RQ4 기존의 수치적 PDE 솔버 및 다른 신경망 모델과 비교해 FINN은 다양한 경계 조건에서 어떻게 성능을 발휘하는가?
• RQ5 모델은 새로운 코어 샘플이나 다른 실험 설정에 적용되었을 때도 정확도를 유지할 수 있는가?

주요 결과

• 합성 데이터에서 FINN은 MSE 4.84×10⁻⁴를 기록하여 校정된 PDE 모델(MSE = 1.06×10⁻³)을 능가했다.
• 코어 샘플 #1에서 FINN은 MSE 1.37×10⁻³를 기록했고, 수치 모델은 MSE 2.50×10⁻³로 과소평가했다.
• 제로 유량 뉴먼 경계 조건이 있고 돌발 데이터가 없는 코어 샘플 #2B에서 FINN은 MSE 1.16×10⁻³를 기록하여 수치 모델(MSE = 2.73×10⁻³)을 능가했다.
• FINN은 농도에 따라 변화하는 퇴적 인자를 성공적으로 추출하여 물리적으로 해석 가능하고 설명 가능한 모델 행동을 제공했다.
• 모델은 다양한 경계 조건과 실험 설정에서 잘 일반화되었으며, 데이터 희소성과 구조적 변화에 강인함을 입증했다.
• 모든 테스트 케이스에서 실험 데이터와 FINN의 예측이 밀도적으로 일치하여 예측 정확성과 물리적 일관성을 확인했다.