[논문 리뷰] Discretization-invariant Bayesian inversion and Besov space priors

Matti Lassas. Eero Saksman, Samuli Siltanen|ArXiv.org|2009. 01. 27.

Sparse and Compressive Sensing Techniques참고 문헌 31인용 수 37

한 줄 요약

이 논문은 함수 $ U $ 의 간접적이고 노이즈가 있는 측정치를 다루는 역문제에 대해, 특히 $ B^1_{11} $ 와 같은 베존 공간 사전분포를 사용하여 이산화에 영향을 받지 않는 베이지안 역문제 틀을 제안한다. 주요 기여는 파동함수 기반의 베존 사전분포와 가우시안 스무스니스 사전분포가 이산화가 빈도를 높일수록 일관된 사후 평균을 도출함을 증명하는 것으로, $ B^1_{11} $ 사전분포는 파동함수 계수의 $ \ell^1 $-패널티화와 동치임을 보여준다.

ABSTRACT

Bayesian solution of an inverse problem for indirect measurement $M = AU + {\mathcal{E}}$ is considered, where $U$ is a function on a domain of $R^d$. Here $A$ is a smoothing linear operator and $ {\mathcal{E}}$ is Gaussian white noise. The data is a realization $m_k$ of the random variable $M_k = P_kA U+P_k {\mathcal{E}}$, where $P_k$ is a linear, finite dimensional operator related to measurement device. To allow computerized inversion, the unknown is discretized as $U_n=T_nU$, where $T_n$ is a finite dimensional projection, leading to the computational measurement model $M_{kn}=P_k A U_n + P_k {\mathcal{E}}$. Bayes formula gives then the posterior distribution $π_{kn}(u_n | m_{kn})\simπ_n(u_n) \exp(-{1/2}\|m_{kn} - P_kA u_n\|_2^2)$ in $R^d$, and the mean $U^{CM}_{kn}:=\int u_n π_{kn}(u_n | m_k) du_n$ is considered as the reconstruction of $U$. We discuss a systematic way of choosing prior distributions $\prior_n$ for all $n\geq n_0>0$ by achieving them as projections of a distribution in a infinite-dimensional limit case. Such choice of prior distributions is {\em discretization-invariant} in the sense that $\prior_n$ represent the same {\em a priori} information for all $n$ and that the mean $U^{CM}_{kn}$ converges to a limit estimate as $k,n o\infty$. Gaussian smoothness priors and wavelet-based Besov space priors are shown to be discretization invariant. In particular, Bayesian inversion in dimension two with $B^1_{11}$ prior is related to penalizing the $\ell^1$ norm of the wavelet coefficients of $U$.

연구 동기 및 목표

• 간접적이고 노이즈가 있는 측정치를 다루는 역문제에서, 이산화 수준의 정밀도 향상에 따라도 일관성을 유지하는 베이지안 역문제 틀을 개발하는 것.
• 모델링이 연속함수 공간에서 정의된 함수를 다룰 때, 표준적인 이산화 사전분포가 기인하는 불안정성과 불일관성을 해결하는 것.
• 유한차원 부분공간에 투영된 사전분포가 잘 정의된 무한차원 사전분포로 수렴할 조건을 확립하여, 이산화 불변성을 보장하는 것.
• 파동함수 기반의 베존 사전분포, 특히 $ B^1_{11} $ 가 이산화 불변 재구성을 제공하며, $ \ell^1 $-패널티를 입힌 파동함수 계수 추정과 동치임을 보여주는 것.
• 특히 영상 및 역산산 문제에서 사용되는 베존 공간 사전분포의 통계적 역문제에 대한 엄밀한 이론적 기초를 제공하는 것.

제안 방법

• 역문제를 $ M = AU + \mathcal{E} $ 로 수식화하며, $ A $ 는 스무스닝 연산자이고 $ \mathcal{E} $ 는 가우시안 화이트 노이즈이며, 유한차원 장치에서의 측정값 $ m_k = P_k M $ 을 고려한다.
• 무한차원 사전분포를 유한차원 부분공간에 투영하는 $ T_n $ 을 사용하여 $ U $ 를 이산화함으로써 $ U_n = T_n U $ 를 도출하고, 계산 모델 $ M_{kn} = A_k U_n + \mathcal{E}_k $ 를 얻는다.
• 사후분포 $ \pi_{kn}(u_n | m_{kn}) \propto \Pi_n(u_n) \exp(-\frac{1}{2}\|m_{kn} - A_k u_n\|_2^2) $ 를 정의하며, $ \Pi_n $ 은 이산화된 공간에서의 사전분포이다.
• 일관된 무한차원 사전측도(예: 베존 또는 가우시안 스무스니스 공간)의 투영으로 $ \Pi_n $ 을 구성함으로써, $ n $ 을 통해 일관성을 확보한다.
• 사후평균 $ \mathbf{u}_{kn} = \int u_n \pi_{kn}(u_n | m_{kn}) du_n $ 이 $ k,n \to \infty $ 일 때 수렴하여 이산화 불변성을 증명한다.
• $ B^1_{11} $ 사전분포가 파동함수 계수의 $ \ell^1 $-패널티화와 동치임을 보여주며, 베이지안 역문제와 압축 측정 및 희박성 촉진 정규화를 연결한다.

실험 결과

연구 질문

• RQ1 어떻게 사전분포를 일관되게 유한차원 부분공간에 투영하여, 결과적으로 얻어지는 베이지안 역문제가 이산화 정밀도 향상에 대해 불변성을 유지할 수 있는가?
• RQ2 어떤 종류의 함수공간 사전분포가 측정값과 무한차원 모델의 이산화 수준이 증가함에 따라 사후평균이 잘 정의된 극한으로 수렴하는가?
• RQ3 왜 파동함수 기반의 베존 사전분포, 특히 $ B^1_{11} $ 는 이산화 불변 재구성을 유도하며, $ \ell^1 $-정규화와 어떻게 관련되어 있는가?
• RQ4 어떤 조건에서 이산화된 베이지안 역문제의 사후평균이 이산화 수준과 무관한 극한 추정치로 수렴하는가?
• RQ5 가우시안 스무스니스 사전분포(예: $ H^{-1} $)는 일관되게 이산화될 수 있으며, 이는 측정값 수렴에 어떤 영향을 미치는가?

주요 결과

• 파동함수 기반의 베존 사전분포, 특히 $ B^1_{11} $ 는 이산화 불변성을 가진다: $ k,n \to \infty $ 일 때 사후평균이 극한 추정치로 수렴하여 안정적인 재구성을 보장한다.
• $ B^1_{11} $ 사전분포는 파동함수 계수의 $ \ell^1 $-패널티화와 동치이며, 베이지안 역문제를 희박성 촉진 정규화 및 압축 측정과 연결한다.
• 가우시안 스무스니스 사전분포(예: $ H^{-1} $)는 적절한 유한차원 투영을 통해 일관되게 이산화될 수 있으며, 극한 측도는 적절한 함수공간에서 가우시안이 된다.
• 사전분포가 무한차원 사전분포의 일관된 투영으로 구성되어 있으면, 사후평균 $ \mathbf{u}_{kn} $ 이 $ k,n \to \infty $ 일 때 극한 추정치로 분포 수렴한다.
• 점 평가 측정값(예: $ M^{(2)} $)은 특정 사전분포(예: 2차원 가우시안 스무스니스 사전분포) 하에서 대각선에 특이한 공분산 행렬을 가질 수 있어 분포 수렴에 실패할 수 있다.
• 이 틀은 재구성자 $ \mathcal{R}_M(U|m) $ 이 보렐 수확집합 $ S_0 \subset S $ 에서 잘 정의되어 있음을 보장하여, 거의 확실히 측정 불가능한 $ M $ 의 실현값 문제를 피한다.