[논문 리뷰] Well-posed Bayesian Inverse Problems: beyond Gaussian priors

Bamdad Hosseini, Nilima Nigam|arXiv (Cornell University)|2016. 04. 09.

Sparse and Compressive Sensing Techniques참고 문헌 2인용 수 1

한 줄 요약

이 논문은 비정규, 볼록(로그-준연속) 사전분포—예를 들어 정규분포, 베솔 분포, 계층적 사전분포 등—하에 베이지안 역문제의 잘 정의됨을 입증한다. 관측 데이터의 변동에 대해 사후측도의 존재성, 유일성, 안정성을 보장하는 가능도와 사전분포에 대한 조건을 규명함으로써 이루어진다. 또한 바나흐 공간 위에서 이러한 사전분포를 일반적으로 구성할 수 있는 방법을 제공하여, $L^2$ 및 연속 함수 공간에서의 강건한 추론을 가능하게 한다.

ABSTRACT

We consider the well-posedness of Bayesian inverse problems when the prior measure has exponential tails. In particular, we consider the class of convex (log-concave) probability measures which include the Gaussian and Besov measures as well as certain classes of hierarchical priors. We identify appropriate conditions on the likelihood distribution and the prior measure which guarantee existence, uniqueness and stability of the posterior measure with respect to perturbations of the data. We also consider consistent approximations of the posterior such as discretization by projection. Finally, we present a general recipe for construction of convex priors on Banach spaces which will be of interest in practical applications where one often works with spaces such as $L^2$ or the continuous functions.

연구 동기 및 목표

• 베이지안 역문제의 이론적 기반을 정규분포 사전분포를 초월하여 볼록(로그-준연속) 측도로 확장하기.
• 사후측도의 존재성, 유일성, 안정성을 보장하는 가능도 및 사전분포에 대한 충분조건을 규명하기.
• 데이터의 변동과 메쉬의 이산화에 의한 사후측도의 일致한 근사화 보장하기.
• $L^2$ 및 연속 함수 공간에서 실용적으로 사용 가능한 바나흐 공간 위에서 볼록 사전분포를 구성하는 일반적 프레임워크 개발하기.

제안 방법

• 로그-준연속이고 지수 꼬리 성질을 갖는 사전측도를 가진 바나흐 공간 설정에서 베이지안 역문제를 체계적으로 정의하기.
• 변분해석 및 대규모 편차 이론을 적용하여 가능도 및 사전분포의 미약한 정규성 조건 하에서 사후측도의 잘 정의됨을 입증하기.
• 사영 기반 이산화를 사용하여 사후측도의 일致한 근사화를 구성하고, 데이터 변동에 대한 수렴성을 보장하기.
• 노름과 로그-준연속 밀도를 사용하여 바나흐 공간 위에서 볼록 사전분포를 일반적으로 구성하는 공식을 도출하여, $L^2$ 및 연속 함수 공간에 적용 가능하게 하기.
• 약수렴 및 연속성 논증을 통해 관측 데이터의 변동에 대한 사후측도의 안정성 확보하기.
• 사전분포의 로그-밀도를 활용하여 볼록성과 지수 꼬리 행동을 보장함으로써 농도 및 잘 정의됨을 촉진하기.

실험 결과

연구 질문

• RQ1 비정규 사전분포를 가진 베이지안 역문제에서 사후측도가 존재하고 유일하게 유지되기 위한 가능도 및 사전분포에 대한 조건은 무엇인가?
• RQ2 사전분포가 비정규일 경우 관측 데이터의 변동에 대해 사후측도가 어떻게 안정성이 보장될 수 있는가?
• RQ3 무한차원 설정에서 사영 기반 근사화를 사용하여 사후측도에 대한 일致한 이산화 체계를 어떻게 구성할 수 있는가?
• RQ4 바나흐 공간, 예를 들어 $L^2$ 또는 연속 함수 공간에서 볼록(로그-준연속) 사전분포를 설계할 수 있는 일반적인 구성 방법은 무엇인가?
• RQ5 지수 꼬리 성질을 가진 볼록 사전분포는 정규 사전분포와 비교해 사후측도의 잘 정의됨과 실용적 적용 가능성 측면에서 어떻게 다를까?

주요 결과

• 가능도 및 지수 꼬리 성질을 갖는 로그-준연속 사전분포에 대한 미약한 조건 하에서 사후측도는 존재하고, 유일하며, 안정하다.
• 약수렴 및 데이터에 대한 사후측도의 연속성 논증을 통해 데이터 변동에 대한 사후측도의 안정성이 입증된다.
• 사영 기반 이산화를 통해 사후측도의 일치한 근사화가 도출되며, 이는 메쉬 차원이 증가함에 따라 수렴함을 보장한다.
• 노름과 로그-준연속 밀도를 사용하여 바나흐 공간 위에서 볼록 사전분포를 일반적으로 구성하는 공식이 제시된다. 이는 $L^2$ 및 연속 함수 공간에 적용 가능하다.
• 이 프레임워크는 정규분포, 베솔 분포, 계층적 사전분포 등의 중요한 사전분포 클래스를 특수한 경우로 포함하며, 이들의 이론적 근거를 확장한다.
• 결과적으로, 이론적 기반은 정규분포 사전분포를 초월하여 더 넓은 범위의 구조적 사전지식을 가진 역문제에 적용 가능하게 하며, 잘 정의됨 이론을 일반화한다.