[论文解读] Discretization-invariant Bayesian inversion and Besov space priors

Matti Lassas. Eero Saksman, Samuli Siltanen|ArXiv.org|Jan 27, 2009

Sparse and Compressive Sensing Techniques参考文献 31被引用 37

一句话总结

该论文提出了一种针对涉及函数 $ U $ 的间接、噪声测量的反问题的离散化不变贝叶斯反演框架，采用贝索夫空间先验（特别是 $ B^1_{11} $）以确保在不同离散化水平下均能实现稳定且一致的重建。关键贡献在于证明了基于小波的贝索夫先验与高斯光滑性先验在离散化细化时均产生一致的后验均值，且 $ B^1_{11} $ 先验等价于对小波系数施加 $ \ell^1 $ 惩罚。

ABSTRACT

Bayesian solution of an inverse problem for indirect measurement $M = AU + {\mathcal{E}}$ is considered, where $U$ is a function on a domain of $R^d$. Here $A$ is a smoothing linear operator and $ {\mathcal{E}}$ is Gaussian white noise. The data is a realization $m_k$ of the random variable $M_k = P_kA U+P_k {\mathcal{E}}$, where $P_k$ is a linear, finite dimensional operator related to measurement device. To allow computerized inversion, the unknown is discretized as $U_n=T_nU$, where $T_n$ is a finite dimensional projection, leading to the computational measurement model $M_{kn}=P_k A U_n + P_k {\mathcal{E}}$. Bayes formula gives then the posterior distribution $π_{kn}(u_n | m_{kn})\simπ_n(u_n) \exp(-{1/2}\|m_{kn} - P_kA u_n\|_2^2)$ in $R^d$, and the mean $U^{CM}_{kn}:=\int u_n π_{kn}(u_n | m_k) du_n$ is considered as the reconstruction of $U$. We discuss a systematic way of choosing prior distributions $\prior_n$ for all $n\geq n_0>0$ by achieving them as projections of a distribution in a infinite-dimensional limit case. Such choice of prior distributions is {\em discretization-invariant} in the sense that $\prior_n$ represent the same {\em a priori} information for all $n$ and that the mean $U^{CM}_{kn}$ converges to a limit estimate as $k,n o\infty$. Gaussian smoothness priors and wavelet-based Besov space priors are shown to be discretization invariant. In particular, Bayesian inversion in dimension two with $B^1_{11}$ prior is related to penalizing the $\ell^1$ norm of the wavelet coefficients of $U$.

研究动机与目标

• 开发一种贝叶斯反演框架，使其在反问题的离散化水平细化时保持一致性，这些反问题涉及间接、噪声测量。
• 解决在连续设定下未知函数为函数时，标准离散化先验在反问题中出现的不稳定与不一致问题。
• 建立先验分布投影到有限维子空间时收敛至明确定义的无限维先验的条件，从而确保离散化不变性。
• 证明基于小波的贝索夫先验（尤其是 $ B^1_{11} $）可实现离散化不变的重建，且等价于 $ \ell^1 $-惩罚的小波系数估计。
• 为在统计反问题中使用贝索夫空间先验（特别是在成像和反散射问题中）提供严格的理论基础。

提出的方法

• 将反问题表述为 $ M = AU + \mathcal{E} $，其中 $ A $ 为平滑算子，$ \mathcal{E} $ 为高斯白噪声，测量值 $ m_k = P_k M $ 来自有限维设备。
• 通过 $ U_n = T_n U $ 对未知量 $ U $ 进行离散化，其中 $ T_n $ 为有限维投影，从而得到计算模型 $ M_{kn} = A_k U_n + \mathcal{E}_k $。
• 定义后验分布 $ \pi_{kn}(u_n | m_{kn}) \propto \Pi_n(u_n) \exp(-\frac{1}{2}\|m_{kn} - A_k u_n\|_2^2) $，其中 $ \Pi_n $ 为离散化空间上的先验。
• 将 $ \Pi_n $ 构造为函数空间（如贝索夫或高斯光滑性空间）上单一无限维先验测度的投影，以确保在 $ n $ 上的一致性。
• 证明后验均值 $ \mathbf{u}_{kn} = \int u_n \pi_{kn}(u_n | m_{kn}) du_n $ 在 $ k,n \to \infty $ 时收敛至极限估计，从而建立离散化不变性。
• 证明 $ B^1_{11} $ 先验对应于对小波系数施加 $ \ell^1 $ 惩罚，从而将贝叶斯反演与压缩感知及稀疏性促进正则化联系起来。

实验结果

研究问题

• RQ1 如何将先验分布一致地投影到有限维子空间，以确保由此产生的贝叶斯反演在离散化细化时保持不变？
• RQ2 哪类函数空间先验可保证当测量和未知量的离散化水平均提高时，后验均值收敛至明确定义的极限？
• RQ3 为何基于小波的贝索夫先验（尤其是 $ B^1_{11} $）可实现离散化不变的重建，且其与 $ \ell^1 $-正则化有何关联？
• RQ4 在何种条件下，离散化贝叶斯反问题的后验均值会收敛至与离散化水平无关的极限估计？
• RQ5 高斯光滑性先验（如 $ H^{-1} $）能否被一致地离散化，其在极限下对测量收敛性有何影响？

主要发现

• 基于小波的贝索夫先验（尤其是 $ B^1_{11} $）具有离散化不变性：当 $ k,n \to \infty $ 时，后验均值收敛至极限估计，从而确保重建的稳定性。
• $ B^1_{11} $ 先验等价于对小波系数施加 $ \ell^1 $ 惩罚，将贝叶斯反演与稀疏正则化及压缩感知联系起来。
• 当通过适当的有限维投影进行投影时，高斯光滑性先验（如 $ H^{-1} $）具有离散化不变性，其极限测度为相应函数空间中的高斯分布。
• 在将先验构造为无限维先验的一致投影的前提下，后验均值 $ \mathbf{u}_{kn} $ 在分布上收敛至极限估计，当 $ k,n \to \infty $ 时成立。
• 点测量（如 $ M^{(2)} $）在某些先验（如二维高斯光滑性先验）下可能无法在分布上收敛，原因在于对角线处协方差结构的奇异性。
• 该框架确保重构器 $ \mathcal{R}_M(U|m) $ 在 Borel 可测子集 $ S_0 \subset S $ 上有定义，从而避免了 $ M $ 几乎必然不可测实现所引发的问题。