[論文レビュー] A primal-dual splitting algorithm for finding zeros of sums of maximally monotone operators

Radu Ioan Boţ, Ernö Robert Csetnek+1 more|arXiv (Cornell University)|Jun 26, 2012

Numerical methods in inverse problems参考文献 20被引用数 7

ひとこと要約

本稿では、線形連続作用素と合成された最大単調作用素の和のゼロを求めるための原双対分割法を提案する。この手法は、関与する作用素の解像度を別々に利用することで、実装可能となる。本手法は有限次元ヒルベルト空間で収束を示し、画像処理およびフェルマー＝ウェーバーの位置問題において、古典的および最近の反復スキームと比較して優れた性能を発揮する。

ABSTRACT

We consider the primal problem of finding the zeros of the sum of a maximally monotone operator with the composition of another maximally monotone operator with a linear continuous operator and a corresponding dual problem formulated by means of the inverse operators. A primal-dual splitting algorithm which simultaneously solves the two problems in finite-dimensional spaces is presented. The scheme uses at each iteration separately the resolvents of the maximally monotone operators involved and it gives rise to a splitting algorithm for finding the zeros of the sum of compositions of maximally monotone operators with linear continuous operators. The iterative schemes are used for solving nondifferentiable convex optimization problems arising in image processing and in location theory.

研究の動機と目的

• 原包含問題とそのアトゥーブ＝テラ型双対問題を同時に解く原双対分割法の開発を目的とする。
• 前向き・後退法やツェンのアルゴリズムといった古典的手法に見られる、作用素に課される制限的な条件を克服することを目的とする。
• 合成作用素の解像度を計算する必要がないように、最大単調作用素の解像度を別々に利用する手法を提供することを目的とする。
• 最大単調作用素と線形連続作用素の合成の和を扱えるように、アルゴリズムを拡張することを目的とする。
• 画像の復元、ノイズ除去、位置理論における非微分可能凸最適化問題への適用を目的とする。

提案手法

• アルゴリズムは有限次元ヒルベルト空間で定式化され、$ x \in X $ が $ 0 \in Ax + K^*BKx $ を満たすような包含問題を解く。ここで $ A $ および $ B $ は最大単調作用素であり、$ K $ は線形連続作用素である。
• 各反復で $ A $ および $ B $ の解像度を別々に利用し、$ K^*BK $ の解像度を計算する必要を回避する。これはしばしば実行不能である。
• 双対問題は逆作用素を用いて定式化され、アルゴリズムは同時に原問題および双対問題の包含問題を解く。
• 本手法は積空間アプローチを用いて導出され、最大単調性および連続性の標準的仮定の下で収束が保証される。
• 合成の和のケースでは、追加の双対変数を用いて問題を再定式化し、同じ分割戦略を適用することでアルゴリズムを拡張する。
• 部分微分作用素の包含問題に本手法を適用し、$ A $ および $ B $ が適切で、凸的かつ下方連続な関数の部分微分作用素である場合に、既知の原双対アルゴリズムが特別な場合として回復されることを示す。

実験結果

リサーチクエスチョン

• RQ1 合成作用素の解像度を必要とせず、個々の最大単調作用素の解像度を別々に利用する原双対分割法を開発できるか？
• RQ2 アトゥーブ＝テラ双対性枠組みを活用して、原問題および双対問題の包含問題を同時に解くスキームを設計できるか？
• RQ3 最大単調性および線形連続性の標準的仮定の下で、このようなスキームの収束特性はどのようなものか？
• RQ4 本アルゴリズムは、最大単調作用素と線形作用素の合成の和を扱えるように拡張できるか？
• RQ5 画像処理および位置理論の応用において、本アルゴリズムは古典的および最近の手法と比較して性能に優れているか？

主な発見

• フェルマー＝ウェーバー問題において、点 $ c_1=(59,0), c_2=(20,0), c_3=(-20,48), c_4=(-20,-48) $ を用いた場合、Algorithm 19 は30反復で3桁の精度の最適解に到達し、Grad, Nest, および FaMSA-s を上回った性能を示した。
• 遠く離れた点 $ c_5=(100,100) $ を含む困難なケースでは、ウェイズフェルト法および[16]で提示された滑らか化に基づく手法は数百万回の反復内でも収束しなかったが、Algorithm 19 は478反復で最適精度に到達した。
• 最適点がデータ点と一致するような特異点や悪条件問題に対しても、本アルゴリズムは頑健であることが示された。
• 画像の復元およびノイズ除去において、本アルゴリズムは線形作用素と関数の複数の合成を含む非微分可能凸最適化問題を効率的に解いた。
• 本手法は、作用素が凸関数の部分微分作用素である場合に、既知の原双対アルゴリズムを特別な場合として回復する統一的な枠組みを提供する。
• 収束は標準的仮定のもとで保証され、個々の解像度評価を別々に実行するため、反復スキームは計算的に効率的である。