[论文解读] Adaptive Regularization of Ill-Posed Problems: Application to Non-rigid Image Registration

Andriy Myronenko, Xubo Song|ArXiv.org|Jun 17, 2009

Numerical methods in inverse problems参考文献 26被引用 13

一句话总结

该论文提出了一种自适应正则化方法，通过在非刚性图像配准中联合估计正则化算子和图像变换参数，实现了信号相关的正则化。通过利用KL散度将先验建模为接近参考分布的高斯-马尔可夫随机场（GMRF），并借助谱分解实现信号依赖性正则化，该方法在保持O(N log N)优化复杂度的同时，相较于标准变分方法实现了更高的配准精度。

ABSTRACT

We introduce an adaptive regularization approach. In contrast to conventional Tikhonov regularization, which specifies a fixed regularization operator, we estimate it simultaneously with parameters. From a Bayesian perspective we estimate the prior distribution on parameters assuming that it is close to some given model distribution. We constrain the prior distribution to be a Gauss-Markov random field (GMRF), which allows us to solve for the prior distribution analytically and provides a fast optimization algorithm. We apply our approach to non-rigid image registration to estimate the spatial transformation between two images. Our evaluation shows that the adaptive regularization approach significantly outperforms standard variational methods.

研究动机与目标

• 解决在非刚性图像配准等不适定逆问题中固定正则化算子的局限性。
• 开发一种能够从数据中自适应学习正则化结构的方法，避免依赖于先验固定的平滑性约束。
• 通过使正则化根据变换场的当前估计值动态演化，提升配准精度。
• 通过利用GMRF的平移不变性特性和谱分解，开发一种快速优化算法。
• 通过在变换域系数（如DCT/FFT）中强制稀疏性，实现更好的泛化性和压缩性能。

提出的方法

• 在贝叶斯MAP框架下表述正则化问题，其中变换场的先验分布通过与模型分布的KL散度进行估计。
• 假设未知先验分布和模型分布均为零均值高斯分布，从而实现KL散度项的解析计算。
• 将先验约束为高斯-马尔可夫随机场（GMRF），以确保协方差的平移不变性，并可通过傅里叶或DCT基对角化。
• 通过在正定矩阵流形上最小化KL散度，推导出精度矩阵（正则化算子）的闭式解。
• 用基于变换场DCT/FFT系数绝对值的信号自适应惩罚项替代固定的Tikhonov正则化。
• 通过谱分解开发一种快速优化算法，利用频域中的迭代更新实现O(N log N)复杂度。

实验结果

研究问题

• RQ1 是否可以通过估计正则化算子而非预先固定它，使正则化适应于数据？
• RQ2 如何在保持计算效率的前提下，从数据中学习图像变换参数的先验分布？
• RQ3 在变换域（如DCT）中强制稀疏性对配准精度和泛化能力有何影响？
• RQ4 与采用固定正则化的标准变分配准方法相比，该方法在收敛性和鲁棒性方面表现如何？
• RQ5 该自适应正则化框架能否通过谱方法和快速变换实现高效计算？

主要发现

• 所提出的自适应正则化方法在恢复复杂非刚性变换场方面，显著优于标准变分配准方法。
• 该方法成功避免了固定正则化方法常见的陷入劣质局部极小值的问题。
• 最终目标函数对变换场的DCT/FFT系数的L1范数进行惩罚，强制稀疏性并提升泛化能力。
• 通过利用GMRF的谱特性及频域中的迭代更新，优化算法实现了O(N log N)复杂度。
• 由于变换域中的稀疏性，该方法在压缩和重建保真度方面表现更优，这体现在最终正则化项的结构中。
• 当模型分布为各向同性时，该方法类似于L1正则化（Lasso），为成像中的稀疏恢复提供了新的解释。