[논문 리뷰] Unsupervised Deep Learning Algorithm for PDE-based Forward and Inverse Problems

Leah Bar, Nir Sochen|arXiv (Cornell University)|2019. 04. 10.

Numerical methods in inverse problems인용 수 45

한 줄 요약

이 논문은 PDE의 순방향 및 역문제 모두를 풀기 위해 PDE와 경계 조건을 만족하도록 네트워크를 학습시키는 메시-프리(mesh-free) 무감독 신경망 프레임워크를 도입하여, 2D 타원 계(system) 및 Electrical Impedance Tomography에서 시연한다.

ABSTRACT

We propose a neural network-based algorithm for solving forward and inverse problems for partial differential equations in unsupervised fashion. The solution is approximated by a deep neural network which is the minimizer of a cost function, and satisfies the PDE, boundary conditions, and additional regularizations. The method is mesh free and can be easily applied to an arbitrary regular domain. We focus on 2D second order elliptical system with non-constant coefficients, with application to Electrical Impedance Tomography.

연구 동기 및 목표

• 라벨이 없는 데이터로 forward 및 inverse PDE 문제를 해결하는 동기를 제시한다.
• 표준 L2 적합도를 L-무한대에 상응하는 항으로 확장하여 이상치(outliers)를 더 잘 다룬다.
• 사전 해(solution) 지식을 주입하기 위한 적응 가능한 정규화항(regularizers)을 도입한다.
• 임의의 규칙 도메인에서 mesh-free 해법을 가능하게 하며, EIT에서 시연한다.

제안 방법

• PDE 해 u 및 계수를 w_u, w_ij, w_c로 매개변수화된 신경망으로 근사한다.
• PDE, 경계조건, 및 정규화항을 강제하는 비용 함수를 최소화하여 학습한다(무감독).
• 잔차에 대해 L2 적합도 항과 L-무한대 유사 항을 결합한 비용을 사용하여 영-측정 문제와 이상치를 완화한다.
• 문제 특유의 정규화항 R^F 및 R^I를 통합하여 사전 지식을 인코딩할 수 있다.
• 메시-프리 샘플링 접근 방식을 적용한다: 도메인 내 임의 점과 경계의 점이 최적화를 이끈다.
• 2D 이차 타원 시스템에서 시연하며, Electrical Impedance Tomography (EIT)에 중점을 둔다.

실험 결과

연구 질문

• RQ1 무감독 신경망이 방정식과 경계 조건을 만족하면서 forward PDE 문제를 신뢰할 수 있게 해결할 수 있는가?
• RQ2 관찰된 데이터로 계수를 학습하여 같은 네트워크 프레임워크로 역PDE 문제를 해결할 수 있는가?
• RQ3 잔차에 L-무한대 유사 항을 포함시키는 것이 해의 정확도와 모서리(엣지) 선명도에 어떤 영향을 미치는가?
• RQ4 메시-프리 접근이 자유 형태 도메인을 얼마나 잘 다루고 정규화를 통해 사전 정보를 어떻게 반영하는가?

주요 결과

• Forward 문제: 네트워크가 다중 전류에 대해 정확한 u를 달성하며, 보고된 MSE 및 PSNR은 높은 충실도를 나타낸다(예: phantom 1: MSEs 3.15e-3, 1.33e-3, 6.93e-4 및 PSNRs 37.26, 36.12, 35.76).
• Forward 문제: phantom 1/2 결과는 도함수 정확도가 개선되어 도함수 MSE가 1e-8 수준이고 PSNR은 설정에 따라 약 31–37로 나타난다.
• L_infinity 항의 포함은 선명도와 경계 구분을 개선한다(예: L_infty 항으로 도함수 재구성이 더 선명하고 PSNR/MSE가 개선됨).
• 역문제: 도전도 재구성은 phantom 테스트에서 MSE가 약 0.22–0.26 및 PSNR이 6–7 범위로 나타나 체감적 재구성 능력을 시사한다.
• 해당 방법은 여전히 mesh-free이며 역문제에서 piecewise-constant 해를 촉진하기 위해 total variation 등 정규화를 허용한다.