[논문 리뷰] The Bayesian Approach To Inverse Problems

Masoumeh Dashti, Andrew M. Stuart|arXiv (Cornell University)|2013. 02. 27.

Gaussian Processes and Bayesian Inference인용 수 39

한 줄 요약

이 논문은 미분방정식의 역문제에 대해 분리 가능한 바나흐 공간 위의 확률측도를 무작위 급수를 통해 구성함으로써, 엄밀한 무한차원 베이지안 프레임워크를 수립한다. 이는 헬링거 거리에서 사후분포의 잘 정의됨을 증명하고, 정규화 이론과의 연결을 맺으며, MCMC 및 SMC와 같은 측도를 보존하는 동역학을 통해 메쉬에 영향을 받지 않는 알고리즘을 가능하게 한다.

ABSTRACT

These lecture notes highlight the mathematical and computational structure relating to the formulation of, and development of algorithms for, the Bayesian approach to inverse problems in differential equations. This approach is fundamental in the quantification of uncertainty within applications involving the blending of mathematical models with data.

연구 동기 및 목표

• 미분방정식과 노이즈가 있는 데이터를 포함하는 역문제에서의 불확실성 정량화를 위한 수학적으로 엄밀한 프레임워크가 필요하다는 점을 다루기.
• 유한차원 이산화의 한계를 극복하기 위해, 분리 가능한 바나흐 공간 위에서 직접 베이지안 추론을 수립하기.
• 베이지안 추론과 고전적 정규화 이론, 특히 티호노프 정규화와의 연결을 수립하기.
• 메쉬의 세분화에 관계없이 잘 정의되고 안정적인 알고리즘—예를 들어 MCMC 및 SMC—을 개발하기.
• 사후 추론이 데이터 변동과 정방 모델의 수치적 근사에 대해 강건함을 확보하기.

제안 방법

• 소볼레프 또는 베소프 공간의 함수를 사용한 무작위 급수 전개를 통해 분리 가능한 바나흐 공간 위에 사전분포를 구성하기.
• 콜모고로프 연속성 정리를 이용해 사전분포의 정(regularity)을 분석하고, 이를 히올더 연속 함수로 확장하기.
• 무한차원에서 베이즈 정리의 유도를 위해 사후분포가 사전분포에 대해 절대연속임을 증명하고, 우도를 통해 라돈-니코디움 미분을 계산하기.
• 헬링거 거리에서 사후분포의 잘 정의됨을 증명하여, 데이터 변동과 모델 근사에 대한 안정성을 확보하기.
• 무한차원 공간에서 사후분포를 샘플링하기 위해 측도를 보존하는 마르코프 과정—예를 들어 MCMC 및 순차 몬테카를로(SMC)—을 개발하기.
• 무한차원 공간에서 사후측도를 보존하는 랑주아인 유형의 동역학을 구성하기 위해 가역적인 확률편미분방정식(SDE)을 활용하기.

실험 결과

연구 질문

• RQ1 미분방정식의 역문제에 대한 베이지안 추론을 어떻게 엄밀하게 무한차원 설정에서 공식화할 수 있는가?
• RQ2 데이터 변동과 모델 근사에 대해 헬링거 거리에서 사후측도의 잘 정의됨을 보장하는 조건은 무엇인가?
• RQ3 무한차원 사전분포를 무작위 급수를 통해 구성할 때, 고전적 정규화 방법—특히 티호노프 정규화—와의 관계는 어떻게 되는가?
• RQ4 MCMC 및 SMC 알고리즘이 무한차원 공간에서 직접 작동함으로써 메쉬의 세분화에 관계없이 안정적이고 정확하게 유지될 수 있는가?
• RQ5 무한차원 사전분포에서 그려진 샘플 경로의 정(regularity)은 무엇이며, 이는 소볼레프, 베소프, 히올더 공간과 어떻게 관련되는가?

주요 결과

• 사후측도는 헬링거 거리에서 잘 정의되어 있어, 데이터 변동과 정방 모델의 수치적 근사에 대해 안정성을 보장한다.
• 사후측도는 사전분포에 대해 절대연속이며, 라돈-니코디움 미분은 명시적으로 우도 함수로 주어진다.
• 무한차원 설정에서 최대사후확률(MAP) 추정자가 존재하며, 이는 베이지안 추론과 변분 정규화의 연결을 맺는다.
• 무작위 급수를 통해 구성된 사전분포의 샘플은 소볼레프 및 베소프 공간에서 정(regularity)을 보이며, 콜모고로프 연속성 정리를 통해 히올더 연속성이 확립된다.
• 측도를 보존하는 마르코프 과정—예를 들어 MCMC 및 SMC—은 무한차원에서 엄밀하게 공식화될 수 있으며, 이는 메쉬 세분화와 무관한 수렴 보장을 가능하게 한다.
• 이 프레임워크는 베이지안 추론과 고전적 정규화 이론 사이에 직접적인 연결을 제공하며, 티호노프 정규화는 특수한 경우로 나타난다.