[论文解读] Bayes meets Krylov: preconditioning CGLS for underdetermined systems

Daniela Calvetti, Francesca Pitolli+2 more|arXiv (Cornell University)|Mar 23, 2015

Control Systems and Identification参考文献 33被引用 8

一句话总结

本文提出一种贝叶斯启发的CGLS方法右预条件子，用于求解欠定线性反问题，通过将先验知识嵌入Krylov子空间以稳定收敛并提升解的质量。通过基于协方差的预条件子将零空间分量引入Krylov子空间，该方法减少了伪影并提高了重建精度，数值实验显示SSIM指数从0.120提升至0.409，增幅达240%。

ABSTRACT

The solution of linear inverse problems when the unknown parameters outnumber data requires addressing the problem of a nontrivial null space. After restating the problem within the Bayesian framework, a priori information about the unknown can be utilized for determining the null space contribution to the solution. More specifically, if the solution of the associated linear system is computed by the Conjugate Gradient for Least Squares (CGLS) method, the additional information can be encoded in the form of a right preconditioner. In this paper we study how the right preconditioned changes the Krylov subspaces where the CGLS iterates live, and draw a tighter connection between Bayesian inference and Krylov subspace methods. The advantages of a Krylov-meet-Bayes approach to the solution of underdetermined linear inverse problems is illustrated with computed examples.

研究动机与目标

• 解决数据维度远小于未知数数量时欠定线性反问题中的非唯一性挑战。
• 通过统计驱动的右预条件子，将先验信息整合到CGLS等迭代求解器中。
• 通过修改包含零空间分量的Krylov子空间，稳定收敛并减少重建中的伪影。
• 通过展示先验信息如何改变CGLS迭代过程中Krylov子空间的结构，弥合贝叶斯推断与Krylov子空间方法之间的鸿沟。
• 通过SSIM等定量指标，在脑磁图（MEG）和电阻抗断层成像（EIT）等生物医学成像应用中展示重建质量的提升。

提出的方法

• 在贝叶斯框架下构建反问题，将未知量建模为具有先验分布的随机变量。
• 使用基于先验协方差矩阵逆矩阵（C = K⁻¹）的右预条件子，将先验知识编码进CGLS算法。
• 修改CGLS生成的Krylov子空间，使其包含来自矩阵A零空间的向量，其方向由先验的相关性结构引导。
• 应用预条件CGLS方法迭代求解系统AᵀAx = Aᵀb，通过不一致性准则和特征值追踪监控收敛性。
• 使用相关长度参数λ控制先验相关性的空间范围，从而影响零空间分量中的波束宽度。
• 采用结构相似性（SSIM）指数定量评估重建结果与原始图像的相似度。

实验结果

研究问题

• RQ1 通过贝叶斯预条件子将先验信息引入后，对CGLS生成的Krylov子空间产生何种影响？
• RQ2 与标准CGLS相比，预条件CGLS方法在多大程度上减少了重建伪影？
• RQ3 先验中的相关长度参数λ如何影响预条件CGLS的收敛行为与解的质量？
• RQ4 预条件系统（如特征值分布）的谱特性是否可用于预测收敛行为并指导停止准则？
• RQ5 使用贝叶斯预条件后，重建保真度的定量提升程度如何，以SSIM衡量？

主要发现

• 使用贝叶斯右预条件子显著提升了重建质量，平均SSIM指数从无预条件时的0.120提升至0.409。
• 预条件CGLS方法因引入零空间分量而减缓收敛速度，但得到的解更平滑、更准确，伪影更少。
• 预条件系统特征值分布比无预条件情况更分散，表明奇异值范围更广，正则化效果更强。
• 增大先验协方差矩阵中的相关长度λ会使零空间中的波束变宽，增强零空间影响，延长收敛时间。
• 相似性图显示，预条件解能更好地保留结构特征，SSIM值在感兴趣区域更集中。
• 该方法有效平衡了数据保真度与先验信息，生成的解既与观测一致，又具有物理合理性。