[논문 리뷰] A stochastic approach to mixed linear and nonlinear inverse problems with applications to seismology.

Darko Volkov|arXiv (Cornell University)|2020. 07. 08.

Markov Chains and Monte Carlo Methods참고 문헌 20인용 수 1

한 줄 요약

이 논문은 노이즈가 있는 데이터와 악조건의 선형 성분을 가진 혼합 선형 및 비선형 역문제를 위한 확률적 알고리즘을 제안한다. 비선형 매개변수와 정규화 매개변수를 난수 변수로 모델링하고 공동 사후분포를 유도함으로써, 병렬 샘플링을 통해 사후 기대값과 공분산을 효율적으로 계산할 수 있으며, 지질학적 응용에서 기존의 일반화된 교차검증 및 불일치 원칙과 같은 전통적 방법들을 능가한다.

ABSTRACT

We derive an efficient stochastic algorithm for computational inverse problems that present an unknown linear forcing term and a set of nonlinear parameters to be recovered. It is assumed that the data is noisy and that the linear part of the problem is ill-posed. The vector of nonlinear parameters to be recovered is modeled as a random variable. This random vector is augmented by a random regularization parameter for the linear part. A probability distribution function for this augmented random vector knowing the measurements is derived. We explain how this derivation is related to the maximum likelihood regularization parameter selection [Galatsanos and Katsaggelos, 1992], which we generalize to the case where the underlying linear operator is rectangular and depends on a nonlinear parameter. A major difference in our approach is that, unlike in [Galatsanos and Katsaggelos, 1992], we do not limit ourselves to the most likely regularization parameter, instead we show that due to the dependence of the problem on the nonlinear parameter, there is a great advantage in exploring all positive values of the regularization parameter. Based on our new probability distribution function, we construct a choice sampling algorithm to compute the posterior expected value and covariance of the nonlinear parameter. This algorithm is greatly accelerated by using a parallel platform where we alternate computing proposals in parallel and combining proposals to accept or reject them as in [Calderhead, 2014]. Finally, our new algorithm is illustrated by solving an inverse problem in seismology. We show how our algorithm performs in that example and how it is able to compute marginal posterior probability functions even in the presence of strong noise. We discuss why this problem can not be approached by using the Generalized Cross Validation method or the discrepancy principle.

연구 동기 및 목표

• 선형 성분이 악조건이고 데이터에 노이즈가 있는 혼합 선형 및 비선형 성분을 가진 역문제를 해결하기 위해.
• 일반화된 교차검증 및 불일치 원칙과 같은 전통적 정규화 매개변수 선택 방법의 한계를 극복하기 위해.
• 비선형 매개변수와 정규화 매개변수를 모두 난수 변수로 간주하는 베이지안 프레임워크를 개발하기 위해.
• 강한 노이즈와 악조건의 조건에서도 비선형 매개변수의 사후 기대값과 공분산을 효율적으로 계산하기 위해.
• 실세계 지질학적 역문제에서 이 방법의 효과성을 입증하기 위해.

제안 방법

• 비선형 매개변수를 난수 벡터로 모델링하고, 정규화 매개변수를 추가적인 난수 변수로 증강하여 증강된 난수 벡터를 구성한다.
• 노이즈가 있는 측정값이 주어졌을 때 증강된 벡터에 대한 공동 사후확률분포를 유도하며, 직사각형 및 비선형적으로 의존하는 연산자로 최대우도 정규화 선택을 일반화한다.
• 정규화 매개변수를 가장 가능성 있는 값으로 고정하지 않고, 불확실성을 반영하기 위해 양의 정규화 값의 전 범위를 탐색한다.
• 다중 프로세서에서 병행하여 제안 생성 및 수용/기각 단계를 번갈아 수행하는 병렬 마르코프 체인 몬테카를로 샘플링 알고리즘을 설계한다.
• 정규화 매개변수의 불확실성을 포함한 전체 사후분포를 통합하여 비선형 매개변수의 사후 기대값과 공분산을 계산한다.
• 이 방법은 노이즈가 있는 데이터로부터의 파동장 재구성에 관여하는 지질학적 역문제에 대해 검증되었다.

실험 결과

연구 질문

• RQ1 정규화 매개변수를 난수 변수로 간주하는 베이지안 프레임워크가 혼합 선형 및 비선형 역문제에서 추론을 향상시키는가?
• RQ2 단일 최적 값으로 선택하는 대신 정규화 매개변수의 전체 범위를 탐색함으로써, 강한 노이즈 상황에서의 강건성이 어떻게 향상되는가?
• RQ3 일반화된 교차검증 및 불일치 원칙이 이 클래스의 역문제에 대해 부적절한 이유는 무엇인가?
• RQ4 불확실한 정규화를 가진 고차원 역문제에서 병렬 샘플링이 사후 계산을 얼마나 빠르게 가속화하는가?
• RQ5 실제 지질학적 응용에서 이 방법이 비선형 매개변수의 주변 사후확률 함수를 얼마나 잘 복원하는가?

주요 결과

• 제안된 방법은 기존 방법이 실패하는 강한 노이즈 조건에서도 비선형 매개변수의 사후 기대값과 공분산을 성공적으로 계산한다.
• 정규화 매개변수의 모든 양의 값을 탐색함으로써, 가장 가능성 있는 값으로 고정하는 방법보다 불확실성을 더 정확히 포착한다.
• 일반화된 교차검증 및 불일치 원칙에 비해 알고리즘이 뛰어난 성능을 보이며, 선형 연산자의 비선형적 의존성으로 인해 이들 방법이 이 맥락에서 적용 불가능한 것으로 밝혀졌다.
• 비선형 매개변수의 주변 사후확률 함수가 정확히 복원되어 신뢰할 수 있는 불확실성 정량화가 가능하다.
• 병렬 샘플링의 사용은 계산을 크게 가속화하여 복잡한 역문제에 대한 사후 추론을 실현 가능하게 한다.
• 이 방법은 지질학적 역문제에서 검증되었으며, 노이즈가 있는 데이터로부터의 파동장 재구성에서 강건성과 정확성을 보였다.