[論文レビュー] Adaptive Regularization of Ill-Posed Problems: Application to Non-rigid Image Registration

Andriy Myronenko, Xubo Song|ArXiv.org|Jun 17, 2009

Numerical methods in inverse problems参考文献 26被引用数 13

ひとこと要約

本稿では、非剛性画像登錻における正則化作用素と画像変換パラメータを同時に推定する適応的正則化手法を提案する。KLダイバージェンスを用いて基準分布に近いガウス・マルコフ確率場（GMRF）として事前分布をモデル化することで、スペクトル分解を介した信号依存型正則化を実現し、標準的な変分法と比較して優れた登錻精度を達成するとともに、最適化の計算量はO(N log N)に抑えられる。

ABSTRACT

We introduce an adaptive regularization approach. In contrast to conventional Tikhonov regularization, which specifies a fixed regularization operator, we estimate it simultaneously with parameters. From a Bayesian perspective we estimate the prior distribution on parameters assuming that it is close to some given model distribution. We constrain the prior distribution to be a Gauss-Markov random field (GMRF), which allows us to solve for the prior distribution analytically and provides a fast optimization algorithm. We apply our approach to non-rigid image registration to estimate the spatial transformation between two images. Our evaluation shows that the adaptive regularization approach significantly outperforms standard variational methods.

研究の動機と目的

• 非剛性画像登錻のような不適切に定式化された逆問題における固定正則化作用素の限界を解消すること。
• 事前に固定された滑らかさ制約に依存せずに、データから正則化構造を適応的に学習する手法を開発すること。
• 変換場の現在の推定に基づいて正則化を進化可能にする仕組みを導入し、登錻精度を向上させること。
• GMRFの時不変性とスペクトル分解を活用することで、周波数領域での反復更新により高速な最適化アルゴリズムを提供すること。
• 変換領域の係数（例：DCT/FFT）における強制的なスパarsityを活用し、より良い一般化性と圧縮性能を実現すること。

提案手法

• ベイズ的MAPフレームワークにおいて、変換場の事前分布をモデル分布からのKLダイバージェンスで推定する正則化問題を定式化する。
• 未知の事前分布とモデル分布がともにゼロ平均ガウス分布であると仮定し、KLダイバージェンス項の解析的計算を可能にする。
• 事前分布をガウス・マルコフ確率場（GMRF）に制約することで、時不変な共分散を保ち、フーリエまたはDCT基底で対角化可能とする。
• 正定値行列の多様体上でのKLダイバージェンスの最小化により、逆共分散行列（正則化作用素）の閉形式解を導出する。
• 固定されたチホノフ正則化を、変換場のDCT/FFT係数の絶対値に対する信号適応型ペナルティに置き換える。
• スペクトル分解を活用し、周波数領域での反復更新により、O(N log N)の計算量を達成する高速最適化アルゴリズムを構築する。

実験結果

リサーチクエスチョン

• RQ1 正則化作用素を事前に固定するのではなく、推定することで、データに適応した正則化が可能になるか？
• RQ2 計算効率を維持しながら、画像変換パラメータの事前分布をデータから学習する方法は何か？
• RQ3 変換領域（例：DCT）におけるスパarsityの強制が、登錻精度と一般化性能に与える影響は何か？
• RQ4 固定正則化を用いた標準的な変分登錻法と比較して、提案手法の収束性とロバスト性はどのように異なるか？
• RQ5 スペクトル法と高速変換を用いて、適応的正則化フレームワークを効率的に実装できるか？

主な発見

• 提案された適応的正則化手法は、複雑な非剛性変換場の回復において、標準的な変分登錻法を著しく上回る性能を示した。
• 固定正則化手法の代表的な失敗モードである悪い局所最適解への収束を効果的に回避した。
• 最終的な目的関数は、変換場のDCT/FFT係数のL1ノルムをペナルティ項として含み、スパarsityを強制することで一般化性能が向上した。
• GMRFのスペクトル特性と周波数領域での反復更新を活用することで、最適化アルゴリズムがO(N log N)の計算量を達成した。
• 変換領域におけるスパarsityのおかげで、圧縮性能と再構成精度が向上し、最終的な正則化項の構造からその効果が明確に示された。
• モデル分布が等方的である場合には、本手法はL1正則化（Lasso）と類似しており、画像分野におけるスパース回復の新たな解釈を提供する。