[논문 리뷰] Embedding Hard Physical Constraints in Neural Network Coarse-Graining of 3D Turbulence

Arvind Mohan, Nicholas Lubbers외 2명|arXiv (Cornell University)|2020. 01. 31.

Model Reduction and Neural Networks참고 문헌 46인용 수 48

한 줄 요약

논문은 3D 난류를 위한 합성곱 자동인코더(PhyCAE)에 경직 불가분성 제약을 하드하게 내재화하고, 고정된 CNN 유도 도함 스텐실과 고스트 셀 경계 조건을 통해 발산-제로 속도를 강제로 구현하여, 성능 저하 없이 지역 질량 보존을 개선한다.

ABSTRACT

In the recent years, deep learning approaches have shown much promise in modeling complex systems in the physical sciences. A major challenge in deep learning of PDEs is enforcing physical constraints and boundary conditions. In this work, we propose a general framework to directly embed the notion of an incompressible fluid into Convolutional Neural Networks, and apply this to coarse-graining of turbulent flow. These physics-embedded neural networks leverage interpretable strategies from numerical methods and computational fluid dynamics to enforce physical laws and boundary conditions by taking advantage the mathematical properties of the underlying equations. We demonstrate results on three-dimensional fully-developed turbulence, showing that this technique drastically improves local conservation of mass, without sacrificing performance according to several other metrics characterizing the fluid flow.

연구 동기 및 목표

• 3D 난류 모델링에서 비압축성을 보장하기 위해 신경망에 하드 물리적 제약을 내장하는 것을 고무한다.
• 발산-제로 조건을 축소 과정에서 강제로 구현하는 물리-내재 합성곱 자동인코더(PhyCAE)를 개발한다.
• 유한 차분(finite-difference)과 유사한 CNN 커널 및 고스트 셀 경계 처리를 활용하여 학습 가능한 프레임워크에서 정확한 물리 연산자를 구현한다.
• 보존에 대한 하드 제약의 영향, 난류 진단 지표 전반의 정확도, 그리고 학습 역학을 평가한다.

제안 방법

• 3D HIT 속도장을 축소하기 위해 합성곱 자동인코더(CAE)를 사용한다.
• 벡터 포텐셜 A를 예측하고 V = curl(A)를 계산하는 방식으로 발산-제로 제약을 내재화하며, curl을 고정되고 학습 불가능한 도함 스텐실을 통해 구현하는 CNN 계층을 사용한다.
• 더 높은 차수의 스텐실 정확도를 유지하기 위해 고스트 셀로 경계 조건을 적용한다.
• CNN 커널을 유한체적 스텐실과 연계시켜 공간 미분을 통한 역전파를 가능하게 한다.
• 단정밀도 DNS 데이터로 평가하고 V의 발산(nabla·V) 및 난류 진단 지표를 표준 CAE와 비교한다.
• CNN 내재 연산자를 통한 고차 도식 및 다른 하드 제약의 확장 가능성을 논의한다.

실험 결과

연구 질문

• RQ1 하드 물리 제약을 CNN 구조에 내재화하여 3D 난류 모델에서 비압축성을 강제할 수 있는가?
• RQ2 물리 내재 CAE(PhyCAE)가 표준 CAE에 비해 난류 통계치를 해치지 않으면서 로컬 질량 보존을 개선하는가?
• RQ3 고정 도함 스텐실 및 고스트 셀 경계 처리 방식이 축소-자류 난류 데이터의 학습 역학과 예측 정확도에 어떻게 영향을 미치는가?
• RQ4 학습된 축소-맥락 필드에 대한 표준 난류 진단(에너지 스펙트럼, 속도 구배 통계, Q-R 평면)에 하드 제약이 미치는 영향은 무엇인가?

주요 결과

• PhyCAE는 CAE보다 최종 발산(TAD)이 훨씬 낮으며, 테스트 데이터에서 최종 발산이 대략 ~10^-5 대 ~10^-2이다.
• 학습 과정에서 PhyCAE의 발산은 시간에 따라 감소하고 수치적으로 제로에 근접할 수 있어 초기 에폭부터 비압축성 준수를 시사한다.
• 에너지 스펙트럼 및 대규모/관성대역 정확도는 PhyCAE와 CAE 간에 비슷하며, 축소-맥락화로 인한 소스케일 차이가 있다.
• PhyCAE의 속도 구배 확률밀도함수(PDF)는 DNS와 근접하게 일치하고, 꼬리는 CAE보다 약간 개선되어 소규모 스케일에서의 거동이 양호함을 나타낸다.
• Q-R 평면 진단은 PhyCAE가 대규모 유동 토폴로지를 매우 잘 포착함을 보여주며, 관성대 규모는 다소 덜 정확하지만 수용 가능하다.
• 전반적으로 PhyCAE는 학습 가능한 매개변수를 늘리지 않으면서도 하드 물리적 보장을 제공하며 강인성과 해석 가능성을 향상시킨다.