[논문 리뷰] Learning Interface Conditions in Domain Decomposition Solvers

Ali Taghibakhshi, Nicolas Nytko외 4명|arXiv (Cornell University)|2022. 05. 19.

Model Reduction and Neural Networks인용 수 6

한 줄 요약

이 논문은 비정형 격자에서 도메인 분할 솔버의 최적 경계 조건을 학습하기 위해 그래프 컬러션 신경망(GCNN) 기반의 방법을 제안한다. 이는 오차 전파 연산자의 스펙트럼 반경을 최소화하는 새로운 비지도 손실 함수를 사용한다. 이 방법은 선형 계산 복잡도를 가지며, 구조적 서브도메인이나 푸리에 분석이 필요하지 않은 비정형 격자에서 고전적인 RAS 및 최적화된 ORAS 방법보다 뛰어난 수렴 성능을 보이며, 문제 크기와 관계없이 강건한 수렴성을 확보한다.

ABSTRACT

Domain decomposition methods are widely used and effective in the approximation of solutions to partial differential equations. Yet the optimal construction of these methods requires tedious analysis and is often available only in simplified, structured-grid settings, limiting their use for more complex problems. In this work, we generalize optimized Schwarz domain decomposition methods to unstructured-grid problems, using Graph Convolutional Neural Networks (GCNNs) and unsupervised learning to learn optimal modifications at subdomain interfaces. A key ingredient in our approach is an improved loss function, enabling effective training on relatively small problems, but robust performance on arbitrarily large problems, with computational cost linear in problem size. The performance of the learned linear solvers is compared with both classical and optimized domain decomposition algorithms, for both structured- and unstructured-grid problems.

연구 동기 및 목표

• 비정형 격자에서 고전적인 최적화된 슈바르츠 도메인 분할 방법을 확장함으로써, 비정형 서브도메인 기하학으로 인해 푸리에 분석에 의존하는 기존 방법이 실패하는 상황에서의 적용을 가능하게 한다.
• 구조적 격자와 해석적 경계 조건 유도가 필요로 하는 전통적인 최적화된 슈바르츠 방법의 한계를 극복한다.
• 작은 문제에서 학습한 최적 경계 조건을 선형 계산 비용으로 대규모 문제에 일반화할 수 있는 기계학습 프레임워크를 개발한다.
• 그래프 구조 문제에서의 비지도 학습을 통해 효과적인 경계 조건을 학습함으로써, PDE의 반복 솔버 수렴성을 향상시킨다.
• 학습된 조절자(preconditioner)가 비정형 비정형 도메인에서 고전적인 RAS 및 이론적 ORAS 방법을 초월할 수 있음을 입증한다.

제안 방법

• 도메인 분할 방법에서 서브도메인 경계의 최적 경계 값 예측을 위해 그래프 컬러션 신경망(GCNN)을 훈련한다.
• 손실 함수는 오차 전파 연산자의 스펙트럼 반경을 확률적으로 최소화하도록 설계되었으며, 프로베니우스 노름 대신 사용되어 더 나은 수렴 성능을 달성한다.
• 오버스무딩을 방지하기 위해 TAGConv 레이어와 잔차 블록을 사용한 잔차 기반 GCNN 아키텍처를 사용한다.
• 훈련은 작은 문제 인스턴스(n < 1000 노드)에서 수행되며, 결과 모델은 선형 시간 복잡도로 대규모 문제에 효과적으로 일반화된다.
• 프레임워크는 구조적 및 비정형 격지 모두에 적용되며, FGMRES 조절자와 정적 반복 수렴을 사용해 성능 평가가 이루어진다.
• 이 방법은 비지도 학습이다: 실제 경계 조건이 필요하지 않으며, 네트워크는 반복 솔버의 오차 전파 행동에서 학습한다.

실험 결과

연구 질문

• RQ1 기존 최적화된 슈바르츠 방법이 적용 불가능한 비정형 격자에서 기계학습 모델이 도메인 분할 솔버의 최적 경계 조건을 학습할 수 있는가?
• RQ2 오차 전파 연산자의 스펙트럼 반경 기반 손실 함수가 GCNN 훈련에서 반복 솔버에 대해 프로베니우스 노름보다 우수한 성능을 내는가?
• RQ3 작은 문제에서 훈련된 모델이 선형 계산 비용으로 대규모 문제에 일반화 가능한가?
• RQ4 학습된 솔버의 성능은 비정형 격자에서 고전적인 RAS 및 이론적 ORAS 방법과 비교해 어떻게 되는가?
• RQ5 잔차 블록, 레이어 수 등과 같은 아키텍처 선택이 GCNN 기반 도메인 분할에서 일반화 및 수렴성을 최대화하는 데 어떻게 기여하는가?

주요 결과

• 제안된 MLORAS 방법은 모든 비정형 테스트 격자에서 RAS보다 우수한 성능을 보이며, 정적 솔버 및 FGMRES 조절자 모두에서 일관되게 뛰어난 성능을 나타낸다. 이는 최대 2600개 노드의 큰 문제에서도 마찬가지이다.
• 스펙트럼 반경 기반 손실 함수는 프로베니우스 노름 최소화 모델보다 오차 전파 행렬의 프로베니우스 노름이 더 높지만, 더 나은 수렴 속도를 보인다.
• 직접 프로베니우스 노름을 최소화하면 가장 낮은 프로베니우스 노름을 달성하지만, 수렴 성능는 가장 열 劣하므로, 프로베니우스 노름은 솔버 성능의 나쁜 대체 지표임을 확인한다.
• 절단 실험 결과, 잔차 블록 길이를 늘릴수록 성능 향상이 나타나지만, 4개 이상의 TAGConv 레이어를 사용할 경우 과도한 스무딩으로 인해 성능 저하가 발생한다.
• 최적 아키텍처(8개의 잔차 블록, 4개의 TAGConv 레이어)는 깊이와 일반화 간의 최적 균형을 이루며, 여러 훈련 런에서 일관된 성능을 보인다.
• 이 방법은 문제 크기에 따라 선형적으로 확장되며, 작은 인스턴스에서 훈련된 점을 감안할 때 대규모 문제에서의 효율적 평가가 가능하다.