[논문 리뷰] A Mesh-free Method Using Piecewise Deep Neural Network for Elliptic Interface Problems

Cuiyu He, Xiaozhe Hu외 1명|arXiv (Cornell University)|2020. 05. 11.

Advanced Numerical Methods in Computational Mathematics인용 수 5

한 줄 요약

이 논문은 복잡한 기하학적 구조와 비연속적 해를 가진 타원형 인터페이스 문제를 해결하기 위해 조각별 딥 신경망(DNN)을 사용하는 메시-free 딥 최소제곱 방법을 제안한다. 인터페이스로 분리된 부분 도메인 각각에 별도의 DNN을 사용하고, 샘플링된 점들에서 최소제곱 손실을 확률적 경사 하강법으로 최소화함으로써 메시 생성과 수치 적분을 피함으로써, 적응형 샘플링을 통해 계산 비용을 최대 70%까지 감소시키면서도 고정밀도를 달성하며 인터페이스 근처의 특이점을 잘 포착한다.

ABSTRACT

In this paper, we propose a novel mesh-free numerical method for solving the elliptic interface problems based on deep learning. We approximate the solution by the neural networks and, since the solution may change dramatically across the interface, we employ different neural networks in different sub-domains. By reformulating the interface problem as a least-squares problem, we discretize the objective function using mean squared error via sampling and solve the proposed deep least-squares method by standard training algorithms such as stochastic gradient descent. The discretized objective function utilizes only the point-wise information on the sampling points and thus no underlying mesh is required. Doing this circumvents the challenging meshing procedure as well as the numerical integration on the complex interface. To improve the computational efficiency for more challenging problems, we further design an adaptive sampling strategy based on the residual of the least-squares function and propose an adaptive algorithm. Finally, we present several numerical experiments in both 2D and 3D to show the flexibility, effectiveness, and accuracy of the proposed deep least-square method for solving interface problems.

연구 동기 및 목표

• 비정규 인터페이스에서 복잡한 메시 생성과 적분을 피할 수 있는 메시-free 수치 방법을 개발하기 위해.
• 해의 도함수 변화가 크거나 인터페이스를 넘어서 급격히 변하는 문제를 해결하기 위해 각 부분 도메인에 별도의 DNN을 사용함으로써 정확도를 향상시키기 위해.
• 잔차 오차 기반 적응형 샘플링을 통해 고대비 및 특이성 있는 인터페이스 문제의 계산 효율성을 향상시키기 위해.
• 복잡한 기하학적 구조를 가진 2D 및 3D 문제에서 DNN를 활용한 딥 최소제곱 공식의 효과성과 정확도를 입증하기 위해.

제안 방법

• 타원형 인터페이스 문제를 최소제곱 최적화 문제로 재구성하여 딥 러닝을 통한 학습이 가능하도록 한다.
• 인터페이스로 분리된 두 부분 도메인 각각에서 해를 근사하기 위해 두 개의 별도 DNN을 사용하여 도함수 불연속성을 더 잘 포착한다.
• 메시 기반 적분이 필요 없도록 샘플링된 점들에서 평균 제곱오차를 사용하여 최소제곱 기능을 이산화한다.
• 샘플링된 점들의 위치 정보만을 활용하여 점별 데이터에서 확률적 경사 하강법(SGD)을 사용해 DNN을 학습시킨다.
• 잔차 오차가 높은 영역, 특히 인터페이스 근처에 더 많은 점을 추가하는 적응형 샘플링 전략을 설계한다.
• 복잡한 인터페이스에 대해 부분 도메인 별로 조각별 DNN 구조를 사용함으로써 다수의 부분 도메인으로의 확장 가능성을 확보한다.

실험 결과

연구 질문

• RQ1 조각별 DNN를 사용하는 메시-free 딥 러닝 방법이 복잡하거나 시간에 따라 변화하는 인터페이스를 가진 타원형 인터페이스 문제를 효과적으로 해결할 수 있는가?
• RQ2 인터페이스를 넘어서 도함수 변화가 큰 문제에서, 각 부분 도메인에 별도의 DNN를 사용하는 것이 단일 전역 DNN보다 정확도를 향상시키는가?
• RQ3 잔차 오차 기반 적응형 샘플링이 계산 비용을 줄이면서도 해의 정확도를 유지하거나 향상시킬 수 있는가?
• RQ4 이 방법은 2D 및 3D 문제에서 고대비 및 특이성 있는 인터페이스 문제에서 어떻게 성능을 발휘하는가?

주요 결과

• β1=1 및 β2=1000 조건에서 3D 문제에서 부분 도메인에 각각 361개 및 449개의 점을 사용하여 상대 오차 1.6241e-03을 달성하였으며, 이는 균일 샘플링보다 우수한 성능을 보였다.
• 꽃 모양의 인터페이스를 가진 미약한 대비 문제에서, 적응형 샘플링은 약 70%의 샘플링 점 수를 감소시켰지만 균일 샘플링과 유사한 정확도를 달성하였다.
• 적응형 샘플링 전략은 오차도 및 점 분포 시각화를 통해 인터페이스 근처, 특히 특이성이 있는 영역에 점들이 집중된 것을 확인하였다.
• β2=1000 조건의 3D 문제에서, 고대비 조건에서도 낮은 오차(1.6241e-03)를 유지하여 계수 점프에 대한 강건성을 입증하였다.
• 꽃 모양의 인터페이스 문제에서 부분 도메인에 각각 249개 및 358개의 샘플링 점을 사용하여 상대 오차 3.7275e-04를 달성하였으며, 이는 훨씬 더 적은 점 수로도 균일 50×50 그리드와 동일한 성능을 달성하였다.
• 수치 실험을 통해 조각별 DNN 접근법이 인터페이스를 넘어서 도함수가 불연속적인 해의 근사 품질을 크게 향상시킨다는 것이 확인되었다.