[論文レビュー] Convergence of the alternating split Bregman algorithm in infinite-dimensional Hilbert spaces

Amir Moradifam, Adrian Nachman|arXiv (Cornell University)|Dec 8, 2011

Numerical methods in inverse problems参考文献 22被引用数 5

ひとこと要約

本稿は、有界線形作用素と適切で凸かつ下方連続な関数を含む凸最小化問題を解くために、無限次元ヒルベルト空間における交互分割ブレグマンアルゴリズムの弱収束を確立する。Svaiterのドフラス・ラッハフォード分割に関する定理と、Setzerによる分割ブレグマンとドフラス・ラッハフォード法の等価性を活用することで、$L^*L$ の上への性質を仮定することにより、アルゴリズムが無限次元設定でも適切に定義され、収束することを証明する。さらに、summableな誤差を伴う不正確（摂動あり）反復への拡張も可能である。

ABSTRACT

We prove results on weak convergence for the alternating split Bregman algorithm in infinite dimensional Hilbert spaces. We also show convergence of an approximate split Bregman algorithm, where errors are allowed at each step of the computation. To be able to treat the infinite dimensional case, our proofs focus mostly on the dual problem. We rely on Svaiter's theorem on weak convergence of the Douglas-Rachford splitting algorithm and on the relation between the alternating split Bregman and Douglas-Rachford splitting algorithms discovered by Setzer. Our motivation for this study is to provide a convergent algorithm for weighted least gradient problems arising in the hybrid method of imaging electric conductivity from interior knowledge (obtainable by MRI) of the magnitude of one current.

研究の動機と目的

• 無限次元ヒルベルト空間における交互分割ブレグマンアルゴリズムの弱収束を確立すること。
• 有限次元設定から無限次元設定への収束結果の拡張、特にハイブリッドイメージングに由来する問題を対象とすること。
• summableな誤差を伴う不正確な最小化ステップにおけるアルゴリズムの安定性を分析すること。
• 導出された理論的基盤を、コンダクティビティイメージングのような大規模かつ無限次元の逆問題への分割ブレグマンの使用に提供すること。

提案手法

• 証明は、交互分割ブレグマンアルゴリズムと双対問題に適用されたドフラス・ラッハフォード分割アルゴリズムとの間の等価性に依存する。
• Svaiterのドフラス・ラッハフォード法の弱収束に関する定理を双対問題に適用し、分割ブレグマン反復の収束を導出する。
• 無限次元ヒルベルト空間を扱うために、主問題における直接的最小化を避けるために双対問題に注目する。
• 適切な定義のための十分条件を導出：$L^*L$ が上への性質を満たすならば、各分割ブレグマンステップにおける部分問題は一意な最小化子を有する。
• 近似アルゴリズムでは、最小化ステップに $\alpha_k$ および $\beta_k$ の誤差を許容し、$\sum (\alpha_k + \beta_k) < \infty$ ならば収束が保たれる。
• ノルムに関して $\{d^k - Lu^{k+1}\}$ がゼロに収束することを確立し、制約の満たされ方が極限で保証される。

実験結果

リサーチクエスチョン

• RQ1 交互分割ブレグマンアルゴリズムは無限次元ヒルベルト空間で弱収束するか？
• RQ2 交互分割ブレグマンアルゴリズムが無限次元設定で適切に定義される条件は何か？
• RQ3 最小化子がsummableな誤差を伴って近似的に計算される場合でも収束は保たれるか？
• RQ4 無限次元の場合に、双対問題の解は分割ブレグマン反復によって回復可能か？
• RQ5 $L^*L$ の上への性質が、部分問題の解の存在および一意性を保証するために果たす役割は何か？

主な発見

• もし $L^*L$ が上への性質を満たし、かつ主問題と双対問題の両方に解が存在するならば、交互分割ブレグマンアルゴリズムは弱収束して主問題の解に収束する。
• $\{b^k\}$ と $\{d^k\}$ はそれぞれ $\hat{b}$ および $\hat{d}$ に弱収束し、$\lambda \hat{b}$ は双対問題の解である。
• 制約違反 $\|d^k - Lu^{k+1}\|_2$ は強いノルムでゼロに収束し、極限での実行可能性が保証される。
• 不正確なアルゴリズムでは、$\sum (\alpha_k + \beta_k) < \infty$ ならば、$\{d^k\}$ と $\{b^k\}$ は依然として双対問題の解に弱収束する。
• $L^*L$ が上への性質を満たす場合、主問題の解 $\hat{u}$ は一意的であり、$\{u^k\}$ は高々1つの弱収束点しか持たない。
• 最小化子が近似的に計算されても、誤差がsummableであれば収束結果は保たれ、アルゴリズムのロバストネスが示される。