[論文レビュー] Discretization-invariant Bayesian inversion and Besov space priors

Matti Lassas. Eero Saksman, Samuli Siltanen|ArXiv.org|Jan 27, 2009

Sparse and Compressive Sensing Techniques参考文献 31被引用数 37

ひとこと要約

本稿は、関数 $ U $ の間接的でノイズの多い測定値を扱う逆問題に対して、離散化に依存しないベイズ推定フレームワークを導入する。特に、$ B^1_{11} $ を含むベゾフ空間事前分布を用いることで、異なる離散化レベルでも安定的かつ一貫性のある再構成が可能となる。主な貢献は、ウェーブレットに基づくベゾフ事前分布とガウス型滑らかさ事前分布が、離散化の細分化に伴い、後騒い平均が一様に収束することを証明し、$ B^1_{11} $ 事前分布がウェーブレット係数に対する $ \ell^1 $-正則化と等価であることを示している。

ABSTRACT

Bayesian solution of an inverse problem for indirect measurement $M = AU + {\mathcal{E}}$ is considered, where $U$ is a function on a domain of $R^d$. Here $A$ is a smoothing linear operator and $ {\mathcal{E}}$ is Gaussian white noise. The data is a realization $m_k$ of the random variable $M_k = P_kA U+P_k {\mathcal{E}}$, where $P_k$ is a linear, finite dimensional operator related to measurement device. To allow computerized inversion, the unknown is discretized as $U_n=T_nU$, where $T_n$ is a finite dimensional projection, leading to the computational measurement model $M_{kn}=P_k A U_n + P_k {\mathcal{E}}$. Bayes formula gives then the posterior distribution $π_{kn}(u_n | m_{kn})\simπ_n(u_n) \exp(-{1/2}\|m_{kn} - P_kA u_n\|_2^2)$ in $R^d$, and the mean $U^{CM}_{kn}:=\int u_n π_{kn}(u_n | m_k) du_n$ is considered as the reconstruction of $U$. We discuss a systematic way of choosing prior distributions $\prior_n$ for all $n\geq n_0>0$ by achieving them as projections of a distribution in a infinite-dimensional limit case. Such choice of prior distributions is {\em discretization-invariant} in the sense that $\prior_n$ represent the same {\em a priori} information for all $n$ and that the mean $U^{CM}_{kn}$ converges to a limit estimate as $k,n o\infty$. Gaussian smoothness priors and wavelet-based Besov space priors are shown to be discretization invariant. In particular, Bayesian inversion in dimension two with $B^1_{11}$ prior is related to penalizing the $\ell^1$ norm of the wavelet coefficients of $U$.

研究の動機と目的

• 間接的でノイズの混入した測定値を伴う逆問題において、離散化レベルの細分化に対して一貫性を保つベイズ推定フレームワークの開発。
• 連続的設定における未知関数を対象とする逆問題において、標準的な離散化された事前分布が不安定かつ一貫性のない結果をもたらす問題への対処。
• 有限次元部分空間への事前分布の投影が、良好に定義された無限次元事前分布に収束する条件を確立し、離散化不変性を保証すること。
• ウェーブレットに基づくベゾフ事前分布、特に $ B^1_{11} $ が離散化不変な再構成をもたらし、$ \ell^1 $-正則化と等価であることを実証すること。
• 特に画像処理や逆散乱問題において、ベゾフ空間事前分布を統計的逆問題に用いるための厳密な理論的基盤を提供すること。

提案手法

• 逆問題を $ M = AU + \mathcal{E} $ として定式化し、$ A $ を平滑化作用素、$ \mathcal{E} $ をガウス白色ノイズとし、有限次元デバイスからの測定値 $ m_k = P_k M $ を想定する。
• 未知関数 $ U $ を $ U_n = T_n U $ により離散化し、$ T_n $ を有限次元射影とすることで、計算モデル $ M_{kn} = A_k U_n + \mathcal{E}_k $ を得る。
• 事後分布 $ \pi_{kn}(u_n | m_{kn}) \propto \Pi_n(u_n) \exp(-\frac{1}{2}\|m_{kn} - A_k u_n\|_2^2) $ を定義し、$ \Pi_n $ を離散化空間上の事前分布とする。
• 事前分布 $ \Pi_n $ を関数空間（例えば、ベゾフ空間やガウス型滑らかさ空間）における無限次元事前測度の投影として構築し、$ n $ にわたる一貫性を保証する。
• 後騒い平均 $ \mathbf{u}_{kn} = \int u_n \pi_{kn}(u_n | m_{kn}) du_n $ が $ k,n \to \infty $ のとき極限推定値に収束することを証明し、離散化不変性を確立する。
• $ B^1_{11} $ 事前分布がウェーブレット係数に対する $ \ell^1 $-正則化と等価であることを示し、ベイズ推定と圧縮センシング、スパース正則化の間の関係を結ぶ。

実験結果

リサーチクエスチョン

• RQ1 有限次元部分空間への事前分布の一貫性のある投影は、離散化の細分化に対して不変なベイズ推定を保証するためにどのように行うことができるか？
• RQ2 測定値と未知関数の両方の離散化レベルを高める際、後騒い平均が良好に定義された極限に収束する関数空間事前分布のクラスは何か？
• RQ3 ウェーブレットに基づくベゾフ事前分布、特に $ B^1_{11} $ がなぜ離散化不変な再構成をもたらすのか、また $ \ell^1 $-正則化とどのように関係しているのか？
• RQ4 離散化ベイズ逆問題の後騒い平均が、離散化レベルに依存しない極限推定値に収束する条件は何か？
• RQ5 ガウス型滑らかさ事前分布（例：$ H^{-1} $）は一貫して離散化可能か？また、その場合、測定値の極限における収束にどのような影響を与えるか？

主な発見

• ウェーブレットに基づくベゾフ事前分布、特に $ B^1_{11} $ は離散化不変である：$ k,n \to \infty $ のとき、後騒い平均は極限推定値に収束し、安定な再構成が保証される。
• $ B^1_{11} $ 事前分布は $ \ell^1 $-正則化されたウェーブレット係数と等価であり、ベイズ推定とスパース正則化、圧縮センシングを結びつける。
• 適切な有限次元射影による投影がなされた場合、ガウス型滑らかさ事前分布（例：$ H^{-1} $）は離散化不変であり、極限測度は適切な関数空間におけるガウス分布となる。
• 事前分布が無限次元事前分布の一貫した投影として構築されている限り、後騒い平均 $ \mathbf{u}_{kn} $ は $ k,n \to \infty $ のとき分布収束により極限推定値に収束する。
• 点評価測定（例：$ M^{(2)} $）は、特定の事前分布（例：2次元ガウス型滑らかさ事前分布）では、対角成分に特異な共分散構造を持つため、分布収束しない可能性がある。
• 本フレームワークにより、再構成器 $ \mathcal{R}_M(U|m) $ はボレル可測集合 $ S_0 \subset S $ 上で良好に定義され、$ M $ のほとんど surely 非可測な実現を避けることができる。