[논문 리뷰] Data-Driven Finite Elements Methods: Machine Learning Acceleration of Goal-Oriented Computations

Ignacio Brevis, Ignacio Muga외 1명|arXiv (Cornell University)|2020. 03. 10.

Model Reduction and Neural Networks참고 문헌 35인용 수 4

한 줄 요약

이 논문은 데이터 기반 유한요소법을 소개하며, 머신러닝을 활용해 페트로프-갈레르킨 설정에서 시험 함수를 최적화함으로써 조밀한 메esh에서도 관심 양(Quantity of Interest, QoI)의 매우 정확한 근사를 가능하게 한다. 잔차의 쌍대 노름에서의 최소화를 통해 신경망을 훈련시켜 가중치 시험 공간을 매개변수화함으로써, 기존의 FEM보다 뛰어난 정확도를 달성하며, 1차원 확산 문제에서는 정확한 복원이 입증되었다.

ABSTRACT

We introduce the concept of data-driven finite element methods. These are finite-element discretizations of partial differential equations (PDEs) that resolve quantities of interest with striking accuracy, regardless of the underlying mesh size. The methods are obtained within a machine-learning framework during which the parameters defining the method are tuned against available training data. In particular, we use a stable parametric Petrov-Galerkin method that is equivalent to a minimal-residual formulation using a weighted norm. While the trial space is a standard finite element space, the test space has parameters that are tuned in an off-line stage. Finding the optimal test space therefore amounts to obtaining a goal-oriented discretization that is completely tailored towards the quantity of interest. As is natural in deep learning, we use an artificial neural network to define the parametric family of test spaces. Using numerical examples for the Laplacian and advection equation in one and two dimensions, we demonstrate that the data-driven finite element method has superior approximation of quantities of interest even on very coarse meshes

연구 동기 및 목표

• 조밀한 메쉬에서 목표 지향적 유한요소 계산을 가속화하는 머신러닝 프레임워크를 개발하는 것.
• 표준 FEM을 사용할 경우 조밀한 메쉬 이산화에서 관심 양(QoI)의 정확도를 확보하는 데 도전하는 문제를 해결하는 것.
• 시험 공간만 신경망을 통해 훈련 가능한 안정적이고 일致한 매개변수화된 페트로프-갈레르킨 방법을 설계하는 것.
• 데이터 기반의 시험 함수 조정이 특정 QoI에 대해 최적인 잔차 최소화 해를 이끌어내는지 보여주는 것.
• 가중치 쌍대 노름을 사용한 잔차 최소화 설정과의 등가성에 기반한 이론적 안정성 확립

제안 방법

• 시험 공간이 신경망이 정의하는 가중치 함수를 통해 매개변수화되는 매개변수화된 페트로프-갈레르킨 설정을 사용하며, 시험 공간은 표준 유한요소 공간으로 고정된다.
• 시험 공간은 매개변수화된 가중치 함수에 기반한 이산 시험-시험 연산자에 의해 구성되며, 가중치 쌍대 노름에서 잔차 최소화 설정과의 등가성으로 안정성이 보장된다.
• 훈련 과정은 고밀도 메쉬에서 생성된 정밀한 훈련 데이터에 기반한 관심 양의 오차를 최소화하는 손실 함수를 정의한다.
• 이 방법은 이산 쌍대 노름에서 잔차를 최소화하는 것과 동치이며, 이는 QoI에 대한 안정성과 최적 수렴을 보장한다.
• 최대 20개의 매개변수를 가진 신경망을 사용하여 가중치 함수를 표현함으로써, 민첩하고 적응 가능한 시험 공간 매개변수화를 가능하게 한다.
• 오프라인 훈련 단계에서는 QoI 오차 기반 손실을 사용해 신경망 가중치를 조정하며, 온라인 평가에서는 훈련된 모델을 사용해 빠른 해 계산을 수행한다.

실험 결과

연구 질문

• RQ1 머신러닝을 활용해 조밀한 메쉬에서 유한요소법의 시험 함수를 최적화하여 관심 양의 정확도를 향상시킬 수 있는가?
• RQ2 시험 공간만 훈련 가능한 안정적이고 일致한 매개변수화된 페트로프-갈레르킨 방법을 어떻게 구성할 수 있는가?
• RQ3 신경망이 시험 공간을 정의하는 데 수행하는 역할은 무엇이며, 어떻게 높은 정확도의 QoI 근사를 가능하게 하는가?
• RQ4 데이터 기반 방법이 자유도가 최소인 문제, 예를 들어 1차원에서 자유도가 하나인 확산 문제에서 QoI를 정확히 복원할 수 있는가?
• RQ5 매개변수화된 가중치 함수의 풍부함이 방법의 성능과 수렴에 미치는 영향은 무엇인가?

주요 결과

• 데이터 기반 유한요소법은 매우 조밀한 메쉬에서도 관심 양의 놀라운 정확도를 달성하며, 기존 갈레르킨 방법보다 뛰어난 성능을 보인다.
• 자유도가 하나인 1차원 확산 문제에서, 가중치 함수가 충분히 풍부할 경우 QoI의 정확한 복원이 이루어진다.
• 가중치 쌍대 노름에서 잔차 최소화 설정과의 등가성 덕분에 방법은 안정적이고 수렴 가능하다.
• 수치 실험 결과, 1차원 및 2차원에서 라플라스 방정식과 이동 방정식 모두에서 조밀한 이산화에서도 QoI 정확도가 크게 향상됨을 보였다.
• 시험 공간을 매개변수화하는 데 신경망을 사용함으로써, 시험 공간을 변경하지 않고도 민첩하고 목표 지향적인 적응이 가능하다.
• 사전 오차 추정치는 프로젝터 노름에 따라 수렴 속도가 달라지며, 이는 가중치 함수와 인프-서프 상수의 비율에 의해 유계가 된다.