[논문 리뷰] Deep Conservation: A latent-dynamics model for exact satisfaction of physical conservation laws

Kookjin Lee, Kevin Carlberg|arXiv (Cornell University)|2019. 09. 21.

Generative Adversarial Networks and Image Synthesis인용 수 5

한 줄 요약

이 논문은 비선형 차원 축소를 위한 깊이 학습형 컨volution 오토에인코더와 제약 최적화 프레임워크를 조합한 잠재역학 모델인 Deep Conservation을 제안한다. 이는 감소된 차원 모델에서 질량, 운동량, 에너지 등의 물리적 보존 법칙을 정확히 이행하도록 보장한다. 방법은 제약된 최소 제곱 문제를 해결하여 사전 정의된 부분 영역에서 보존 법칙을 정확히 충족시키며, 데이터 기반 및 투영 기반 방법보다 물리적 일致성을 더 잘 유지한다.

ABSTRACT

This work proposes an approach for latent-dynamics learning that exactly enforces physical conservation laws. The method comprises two steps. First, the method computes a low-dimensional embedding of the high-dimensional dynamical-system state using deep convolutional autoencoders. This defines a low-dimensional nonlinear manifold on which the state is subsequently enforced to evolve. Second, the method defines a latent-dynamics model that associates with the solution to a constrained optimization problem. Here, the objective function is defined as the sum of squares of conservation-law violations over control volumes within a finite-volume discretization of the problem; nonlinear equality constraints explicitly enforce conservation over prescribed subdomains of the problem. Under modest conditions, the resulting dynamics model guarantees that the time-evolution of the latent state exactly satisfies conservation laws over the prescribed subdomains.

연구 동기 및 목표

• 데이터 기반 잠재역학 모델이 사전 물리적 제약 조건이 없어 물리적 보존 법칙을 위반하는 경향이 있다는 한계를 해결하기 위해.
• 선형 임bedding의 차원 축소 제약을 극복하기 위해 깊이 학습형 컨volution 오토에인코더를 활용한 비선형 임bedding을 도입하기 위해.
• 감독 학습이나 손실 기반 근사치에 의존하지 않고도 감소된 차원 모델에서 보존 법칙을 정확히 이행하는 프레임워크를 개발하기 위해.
• 유한체적 이산화에서 제약 최적화를 통해 보존을 강제함으로써 비선형 다각형 학습과 물리 기반 투영의 이점을 조합하기 위해.
• 감소된 차원 모델에서 질량, 운동량, 에너지 등의 핵심 물리적 성질을 유지하면서 시간이 중요한 응용 분야에서 빠르고 정확한 시뮬레이션을 가능하게 하는 모델 감소 접근법을 제공하기 위해.

제안 방법

• 이 방법은 깊이 학습형 컨볼루션 오토에인코더를 사용하여 고차원 동역학 시스템 상태의 비선형이며 저차원의 임베딩을 학습하고, 이를 잠재 공간으로 매핑한다.
• 잠재 역학은 유한체적 이산화에서 제어체적에 걸쳐 보존 법칙 위반의 제곱합을 최소화하는 제약 최적화 문제의 해로 정의된다.
• 비선형 등식 제약 조건이 사용자 정의한 부분 영역에서 보존을 명시적으로 강제하여 감소된 모델에서 물리 법칙이 정확히 이행됨을 보장한다.
• 각 시간 단계에서 최적화 문제를 해결하여 잠재 상태의 시간 진화를 계산하며, 이로써 역학이 기초가 되는 보존 법칙과 일致함을 보장한다.
• 이 방법은 적분 형태의 미분 방정식과 그 유한체적 이산화에 대한 사전 지식을 가정하며, 물리 기반의 투영을 학습된 비선형 다각형 위에 수행할 수 있다.
• 이 방법은 유체 역학(예: 오일러 방정식 또는 점성 없는 버거스 방정식)과 같이 보존 법칙에 의해 지배되는 시스템에 적용 가능하며, 매개변수 변화가 있는 1차원 점성 없는 버거스 방정식에서 검증되었다.

실험 결과

연구 질문

• RQ1 비선형 다각형을 사용한 차원 축소를 하면서도 질량, 운동량, 에너지 등의 물리적 보존 법칙을 정확히 이행하는 잠재역학 모델을 구축할 수 있는가?
• RQ2 제안된 제약 최적화 프레임워크는 표준 갈레르킨 투영 또는 데이터 기반 학습과 비교하여 보존 성질 유지를 얼마나 잘하는가?
• RQ3 깊이 학습형 컨볼루션 오토에인코더는 복잡한 물리 시스템의 내재된 역학을 얼마나 잘 포괄할 수 있으며, 감소된 모델에서 정확한 보존을 어떻게 보장할 수 있는가?
• RQ4 제약 최적화를 통한 보존 법칙 강제가 매개변수 PDE에 대한 감소된 차원 모델의 정확도와 안정성에 어떤 영향을 미치는가?
• RQ5 다양한 매개변수 인스턴스에서 정확한 보존을 유지하면서도 잠재 공간에서 서로 다른 궤적을 예측할 수 있는가?

주요 결과

• 제안된 Deep Conservation 방법은 적당한 조건 하에 사전 정의된 부분 영역에서 보존 법칙을 정확히 이행하며, 감소된 차원 모델의 물리적 일치성을 보장한다.
• 다른 매개변수 인스턴스에 대한 잠재 궤적이 3차원 잠재 공간에서 서로 분리되어 있으며, 이는 모델이 매개변수 민감성을 유지하고 있음을 시사한다.
• 손실 함수나 보존을 근사하는 신경망 아키텍처에 의존하지 않음에도 불구하고, 표준 데이터 기반 및 갈레르킨 기반 감소된 차원 모델보다 정확한 보존을 보장함으로써 성능이 뛰어나다.
• 깊이 학습형 컨볼루션 오토에인코더의 사용은 효과적인 비선형 차원 축소를 가능하게 하며, 네트워크 용량이 임계값 이하로 감소할 경우 성능이 저하됨을 보여준다.
• 장시간 시뮬레이션 동안에도 정확한 보존을 유지함을 입증하여, 모든 테스트 케이스에서 보존 법칙이 일관되게 이행됨을 확인하였다.
• 모델은 매개변수 변화에 대해 강건하며, 서로 다른 매개변수 값에 대해 명확히 분리된 잠재 궤적이 나타나며, 이는 모델이 매개변수 의존성을 잘 포착하고 있음을 확인한다.