[論文レビュー] Hybrid and Iteratively Reweighted Regularization by Unbiased Predictive Risk and Weighted GCV for Projected Systems

Rosemary A. Renaut|arXiv (Cornell University)|Mar 8, 2017

Numerical methods in inverse problems参考文献 31被引用数 51

ひとこと要約

本稿では、大規模な悪条件逆問題を解くために、Golub-Kahan双対化を用いたハイブリッド正則化手法を提案する。この手法は、射影された部分空間における正則化パラメータ選択のため、不偏予測誤差リスク推定（UPRE）と重み付き一般化交差検証（WGCV）を組み合わせる。数値実験により、中程度から重度の悪条件問題において、UPREから得られるパラメータが、全問題に対する頑健な推定値を提供することが示された。一方、最適な重みを用いたWGCVは、特に不定またはノイズが多い状況下で、標準的なGCVに比べて安定性と精度が向上することがわかった。

ABSTRACT

abstract: Tikhonov regularization for projected solutions of large-scale ill-posed problems is considered. The Golub{Kahan iterative bidiagonalization is used to project the problem onto a subspace and regularization then applied to nd a subspace approximation to the full problem. Determination of the regularization, parameter for the projected problem by unbiased predictive risk estimation, generalized cross validation, and discrepancy principle techniques is investigated. It is shown that the regularized parameter obtained by the unbiased predictive risk estimator can provide a good estimate which can be used for a full problem that is moderately to severely ill-posed. A similar analysis provides the weight parameter for the weighted generalized cross validation such that the approach is also useful in these cases, and also explains why the generalized cross validation without weighting is not always useful. All results are independent of whether systems are over- or underdetermined. Numerical simulations for standard one-dimensional test problems and two- dimensional data, for both image restoration and tomographic image reconstruction, support the analysis and validate the techniques. The size of the projected problem is found using an extension of a noise revealing function for the projected problem [I. Hn etynkov a, M. Ple singer, and Z. Strako s, BIT Numer. Math., 49 (2009), pp. 669{696]. Furthermore, an iteratively reweighted regularization approach for edge preserving regularization is extended for projected systems, providing stabilization of the solutions of the projected systems and reducing dependence on the determination of the size of the projected subspace.

研究の動機と目的

• 大規模な悪条件逆問題における正則化パラメータ選択を、射影されたKrylov部分空間を用いて安定的かつ正確に行う手法の開発。
• 射影されたシステムにおける最適な正則化パラメータを推定する際、不偏予測誤差リスク推定（UPRE）と重み付き一般化交差検証（WGCV）の性能評価。
• 反復的重み付け正則化を射影されたシステムに拡張し、エッジ保持性の向上と部分空間次元の選択に対する感受性の低減を図ること。
• 1次元および2次元のテスト問題、特に画像のぼかし除去とトモグラフィー再構成を用いて、提案手法の妥当性を検証すること。
• 射影された問題から得られる正則化パラメータが、特に重度の悪条件問題において、全問題に対する信頼できる推定値を提供することを示すこと。

提案手法

• 大規模な悪条件問題を、次元tの低次元Krylov部分空間へGolub-Kahan双対化（GKB）を用いて射影する。
• 射影された問題にTikhonov正則化を適用し、正則化パラメータζを用いて、行列BtのSVDを用いて低次元系を解く。
• 不偏予測誤差リスク推定器（UPRE）を用い、予測残差の平均二乗誤差の推定値を最小化することでζを計算する。
• 標準的なGCVに比して、特に不定またはノイズが多い状況下で安定性と精度を向上させるために、適応的重みωを導入した重み付きGCV（WGCV）の定式化を提案する。
• 反復的重み付けTikhonov正則化を射影されたシステムに拡張し、エッジ保持性の向上と部分空間次元tへの依存性の低減を図る。
• Hn˘etynkov´aら（2009）の研究に基づき、ノイズレベルを射影された問題で検出できるノイズ顕在関数を用いて、最適な部分空間次元tを推定する。

実験結果

リサーチクエスチョン

• RQ1 射影された問題においてUPREにより推定された正則化パラメータζは、特に中程度から重度の悪条件問題において、全問題における最適パラメータαの信頼できる推定値を提供できるか？
• RQ2 最適な重みωを用いた重み付きGCV（WGCV）は、特に不定またはノイズが多い状況下で、標準的なGCVに比べて射影されたシステムの正則化パラメータ選択において優れているか？
• RQ3 射影されたシステムに適用された反復的重み付け正則化は、標準的なTikhonov正則化と比較して、解の安定性とエッジ保持性をどのように向上させるか？
• RQ4 部分空間次元tの選択が最終的な解に与える影響はどの程度か。また、ノイズ顕在関数は、ノイズレベルの事前知識がなくても、tを信頼性高く推定できるか？
• RQ5 提案されたハイブリッド正則化手法の性能は、画像のぼかし除去やトモグラフィー再構成といった、さまざまな種類の大規模な逆問題に対して一貫性を示すか？

主な発見

• 射影された問題においてUPREにより得られた正則化パラメータζは、特に中程度から重度の悪条件問題において、全問題における最適なαの強い推定値を提供する。
• 最適な重みωを用いた重み付きGCV（WGCV）は、標準的なGCVに比べて、特に不定またはノイズが多いシステムにおいて、パラメータ選択の性能が顕著に向上する。標準的なGCVは収束しないか、悪い推定値を返すことがある。
• 射影されたシステムに適用された反復的重み付け正則化アプローチは、エッジ保持性を向上させるとともに、部分空間次元tの選択に対する感受性を低減し、解の頑健性を向上させる。
• 1次元および2次元の問題、特に画像のぼかし除去とトモグラフィー再構成を含む数値実験により、提案手法が相対誤差が低く、鋭い特徴をよく保持する高品質な再構成を達成することが確認された。
• ノイズ顕在関数は、射影された問題におけるノイズレベルを検出することで、事前知識がなくても最適な部分空間次元tを信頼性高く推定でき、自動的かつ信頼性のある部分空間サイズ選択を可能にした。
• 提案手法は、システムが過剰決定であれ不定であれ、効果的かつ安定的であり、大規模な逆問題への広範な適用可能性を示した。