[論文レビュー] A Generalization of the Chambolle-Pock Algorithm to Banach Spaces with Applications to Inverse Problems

Thorsten Hohage, C. Homann|arXiv (Cornell University)|Nov 29, 2014

Numerical methods in inverse problems参考文献 33被引用数 13

ひとこと要約

この論文は、反射的で2-凸的かつ2滑らかなバナッハ空間へのチャモブレー＝ポックのプライマル・デュアル法の一般化を提示し、Tikhonov正則化や反復的正則化ニュートン法を用いて、不適切に設定された逆問題を効率的に解くことを可能にする。この手法は、一般化された凸性条件の下で強収束性と収束速度を保証し、閉形式の解法と、ヒルバート空間のバージョンよりも高速な収束を示す数値実験により、計算的効率が向上する。

ABSTRACT

For a Hilbert space setting Chambolle and Pock introduced an attractive first-order algorithm which solves a convex optimization problem and its Fenchel dual simultaneously. We present a generalization of this algorithm to Banach spaces. Moreover, under certain conditions we prove strong convergence as well as convergence rates. Due to the generalization the method becomes efficiently applicable for a wider class of problems. This fact makes it particularly interesting for solving ill-posed inverse problems on Banach spaces by Tikhonov regularization or the iteratively regularized Newton-type method, respectively.

研究の動機と目的

• ヒルバート空間から反射的で2-凸的かつ2滑らかなバナッハ空間へのチャモブレー＝ポックのプライマル・デュアル法の拡張。
• 一般化された凸性条件の下で、一般化されたアルゴリズムの強収束性と収束速度の確立。
• バナッハ空間におけるTikhonov正則化または反復的正則化ニュートン法を用いた、不適切に設定された逆問題の効率的解法の実現。
• バナッハ空間における解法の閉形式表現の導出。計算効率の向上を目的とする。
• スパース回復および位相再構成問題における数値実験を通じて、収束の高速化と実行可能性の向上を示すこと。

提案手法

• ヒルバート空間のノルムを双対写像と一般化された解法に置き換えることで、チャモブレー＝ポック法をバナッハ空間に一般化する。
• 双対写像 $ J_X $ および $ J_Y $ を用いて、一般化された解法 $ (\sigma \partial g^* + J_Y)^{-1} $ および $ (\tau \partial f + J_X)^{-1} $ を定義し、滑らかなバナッハ空間における一意性を保証する。
• プライマル問題 $ \min_x g(Tx) + f(x) $ とそのフェンケル双対問題を同時に解くためにアルゴリズムを適用し、双対変数 $ p_k $、プライマル変数 $ x_k $、および外挿 $ \hat{x}_k $ の更新を行う。
• 一般化された凸性の性質に基づくパrameter選択ルール（CP-BS1, CP-BS2, CP-BS3）を用い、収束性と収束速度を保証する。
• ポisson分布のデータに対しては、$ W = (T(x_n) + \epsilon)^{-1} $ を重みとする重み付き $ L^2 $ 空間を用い、効率的な近似計算を可能にする。
• バナッハ空間における $ l^r $ および $ H^{1,r} $ 空間における解法の閉形式表現を導出することで、数値的実装における高速な評価を可能にする。

実験結果

リサーチクエスチョン

• RQ1 チャモブレー＝ポック法は、バナッハ空間への一般化が可能であり、収束性と収束速度を保つことができるか？
• RQ2 関数 $ f $ と $ g^* $ にどのような条件が課されると、バナッハ空間における収束性と収束速度が保証されるか？
• RQ3 バナッハ空間における一般化された解法は、ヒルバート空間の対応物と比較して、計算的効率に優れているか？
• RQ4 一般化されたアルゴリズムは、$ l^r $ や $ H^{1,r} $ 空間における逆問題において、標準的なチャモブレー＝ポック法を上回る収束速度を示せるか？
• RQ5 重み付き $ l^2 $ 空間を用いることで、ポisson分布に従う逆問題における収束が改善されるか？

主な発見

• 適切なパrameter選択ルールの下で、一般化されたチャモブレー＝ポック法は、反射的で2-凸的かつ2滑らかなバナッハ空間において強収束性を達成する。
• 関数 $ f $ と $ g^* $ が一般化された凸性条件を満たす場合、ヒルバート空間への結果の拡張として収束速度が確立される。
• $ l^r $ および $ H^{1,r} $ 空間における解法の閉形式表現が導出され、反復的ソルバーを用いずに効率的な計算が可能になる。
• 数値実験では、$ l^{1.5} $ および $ H^{1,1.1} $ 空間において、標準的な $ l^2 $ の設定よりも収束が速く、1つの例では558回の反復で収束したのに対し、$ l^2 $ では15,000回の反復が必要であった。
• 最適な $ \tau, \sigma $ を用いたCP-BS1バージョンが最も速い収束を示し、$ \tau_0 $ が大きくかつ適切な $ \gamma $ を用いるCP-BS2は、大規模な $ \tau_0 $ の場合に高速な収束を示す。
• ポisson分布のデータに対しては、$ W = (T(x_n) + \epsilon)^{-1} $ を用いた重み付き $ l^2_W $ を用いることで、非重み付き $ l^2 $ に比べて収束速度が向上する。