[논문 리뷰] Data-driven discretization: a method for systematic coarse graining of partial differential equations

Yohai Bar‐Sinai, Stephan Hoyer외 2명|arXiv (Cornell University)|2018. 08. 15.

Computer Graphics and Visualization Techniques인용 수 8

한 줄 요약

이 논문은 고해상도 해를 기반으로 훈련함으로써 편미분방정식(PDE)에 대한 최적화된 군집화 수치 해법을 학습하는 신경망 기반의 데이터 기반 이산화 기법을 제안한다. 저해상도 격자에서 공간 미분 근사치를 종단 간 최적화함으로써, 기존의 표준 유한차분법보다 4–8배 더 희박한 해상도에서도 정확도를 확보하면서 비선형 PDE를 넓은 시공간 스케일에 걸쳐 안정적이고 정확하게 통합할 수 있다.

ABSTRACT

The numerical solution of partial differential equations (PDEs) is challenging because of the need to resolve spatiotemporal features over wide length and timescales. Often, it is computationally intractable to resolve the finest features in the solution. The only recourse is to use approximate coarse-grained representations, which aim to accurately represent long-wavelength dynamics while properly accounting for unresolved small scale physics. Deriving such coarse grained equations is notoriously difficult, and often \emph{ad hoc}. Here we introduce \emph{data driven discretization}, a method for learning optimized approximations to PDEs based on actual solutions to the known underlying equations. Our approach uses neural networks to estimate spatial derivatives, which are optimized end-to-end to best satisfy the equations on a low resolution grid. The resulting numerical methods are remarkably accurate, allowing us to integrate in time a collection of nonlinear equations in one spatial dimension at resolutions 4-8x coarser than is possible with standard finite difference methods.

연구 동기 및 목표

• 세부 구조의 해상도가 계산적으로 비현실적인 넓은 시공간 스케일을 가진 PDE를 수치적으로 해결하는 데 도전하는 것.
• 체계적인 유도 과정과 정확도 보장이 없는 수단적인 군집화 방법의 한계를 극복하는 것.
• 기본 PDE의 해로부터 직접 학습하여 정확하고 최적화된 수치 이산화를 제공하는 데이터 기반 프레임워크를 개발하는 것.
• 기존의 표준 유한차분법보다 훨씬 더 희박한 공간 해상도에서 비선형 PDE의 안정적이고 정확한 시간 적분을 가능하게 하는 것.

제안 방법

• 이 방법은 저해상도 격자에서 공간 미분을 추정하기 위해 신경망을 사용하며, 기존의 유한차분 스텐실을 대체한다.
• 네트워크 파라미터는 저해상도 격자에서 PDE 잔차 오차를 최소화하도록 종단 간 최적화되어 훈련되며, 이로써 학습된 방법이 방정식을 가능한 한 가깝게 만족시킴을 보장한다.
• 훈련 데이터는 알려진 PDE의 고해상도 해로 구성되며, 감독을 위한 정확한 기준 역할을 하는 동역학을 제공한다.
• 이 방법은 일차원에서의 다양한 비선형 PDE에 적용되어 서로 다른 방정식 간의 일반화 능력을 입증한다.
• 결과적으로 유도된 수치적 방법은 표준 시간 적분기법을 사용하여 PDE를 시간에 따라 앞으로 적분하는 데 사용되며, 학습된 공간 연산자가 안정성과 정확성을 보장한다.

실험 결과

연구 질문

• RQ1 신경망을 사용하여 표준 유한차분법보다 더 희박한 해상도에서 성능이 뛰어난 체계적인 군집화 PDE 이산화를 학습할 수 있는가?
• RQ2 데이터 기반 유도 근사치는 미해결된 소규모 물리 현상을 고려하면서도 장파장 동역학을 얼마나 정확하게 재현할 수 있는가?
• RQ3 학습된 수치적 방법이 유사한 구조를 가진 다양한 비선형 PDE 간에 얼마나 일반화될 수 있는가?
• RQ4 데이터 기반 접근법을 사용할 때도 안정적이고 정확한 시간 적분이 가능한 최대의 해상도 희박화(격자 간격 기준)는 어느 정도인가?

주요 결과

• 데이터 기반 이산화 기법은 표준 유한차분법이 가능한 해상도보다 4–8배 더 희박한 공간 해상도에서 비선형 PDE의 안정적 시간 적분을 달성한다.
• 학습된 수치적 방법은 복잡한 소규모 상호작용을 포함하는 물리적 메커니즘이 존재하더라도 장파장 동역학을 높은 정확도로 유지한다.
• 더 희박한 격자에서 시뮬레이션을 수행함으로써 계산 비용을 크게 감소시키며, 해의 정밀도를 손상시키지 않는다.
• PDE 잔차에 대해 신경망을 종단 간 훈련함으로써 유도된 최적화된 도함수 근사치는 정확도와 강건성 측면에서 수작업 설계된 유한차분 스텐실을 능가한다.