[論文レビュー] Epigraphical splitting for solving constrained convex formulations of inverse problems with proximal tools

Giovanni Chierchia, Nelly Pustelnik+2 more|arXiv (Cornell University)|Oct 22, 2012

Sparse and Compressive Sensing Techniques参考文献 101被引用数 9

ひとこと要約

本稿では、逆問題における制約付き凸最適化問題を効率的に解くために、プロキシマルアルゴリズムを用いたエピグラフ分割技術を導入する。非線形制約を、特に距離関数および p ∈ {2, ∞} における ℓ₁,p 範囲関数のエピグラフに再定式化することにより、閉形式の射影が可能となり、画像修復およびパルス形状設計の応用において、標準的な反復的手法と比較して収束が著しく高速化される。

ABSTRACT

We propose a proximal approach to deal with a class of convex variational problems involving nonlinear constraints. A large family of constraints, proven to be effective in the solution of inverse problems, can be expressed as the lower level set of a sum of convex functions evaluated over different, but possibly overlapping, blocks of the signal. For such constraints, the associated projection operator generally does not have a simple form. We circumvent this difficulty by splitting the lower level set into as many epigraphs as functions involved in the sum. A closed half-space constraint is also enforced, in order to limit the sum of the introduced epigraphical variables to the upper bound of the original lower level set. In this paper, we focus on a family of constraints involving linear transforms of distance functions to a convex set or $\ell_{1,p}$ norms with $p\in \{1,2,\infty\}$. In these cases, the projection onto the epigraph of the involved function has a closed form expression. The proposed approach is validated in the context of image restoration with missing samples, by making use of constraints based on Non-Local Total Variation. Experiments show that our method leads to significant improvements in term of convergence speed over existing algorithms for solving similar constrained problems. A second application to a pulse shape design problem is provided in order to illustrate the flexibility of the proposed approach.

研究の動機と目的

• 閉形式解が得られない複雑な凸制約への射影を計算するという課題に対処すること。
• 非自明な制約を、射影が効率的に計算可能なエピグラフと半空間に変換する分割戦略を開発すること。
• 特定の関数クラスに対してエピグラフ射影の閉形式解を活用することで、プロキシマルアルゴリズムの収束を高速化すること。
• 非局所全変動を用いた画像修復およびパルス形状設計の応用において、本手法の有効性を示すこと。
• テスト済みのケースを越えて、任意の数の凸制約に適用可能な柔軟なフレームワークを提供すること。

提案手法

• 補助変数を導入することで、h_s(H_s x) ≤ η_s の形の制約をエピグラフ的および半空間的制約に再定式化する。
• 凸関数 f のエピグラフを {(x, ζ) | f(x) ≤ ζ} と定義し、f が凸集合への距離関数または p ∈ {2, ∞} における ℓ_p 範囲関数である場合に閉形式射影が可能になるようにする。
• 変数分割を用いて、元の問題をエピグラフへの射影と標準的な凸集合への射影を含む部分問題に分離する。
• プロキシマルアルゴリズム（例：ADMM）を用いて分割問題を解き、エピグラフ射影の閉形式解を活用する。
• 制約集合の正確な再定式化により、元の制約付き問題と分割定式化との間の同等性を保証する。
• 画像修復およびパルス設計の応用において、収束速度を標準的な反復的射影手法と比較して検証する。

実験結果

リサーチクエスチョン

• RQ1 エピグラフ分割は、信号ブロック上の凸関数の和を含む制約に対し、閉形式の射影を可能にするか？
• RQ2 エピグラフ分割は、標準的な反復的射影手法と比較して、プロキシマルアルゴリズムにおける収束を高速化するか？
• RQ3 非局所全変動に基づく制約に対して、このアプローチは画像修復の文脈でどの程度有効か？
• RQ4 本手法は、逆問題における任意の数の凸制約を処理できるように拡張可能か？
• RQ5 ℓ₁,2 範囲関数および ℓ₁,∞ 範囲関数に対してエピグラフ射影を用いることで、収束速度にどの程度の向上が得られるか？

主な発見

• エピグラフ分割手法により、凸集合への距離関数および p ∈ {2, ∞} における ℓ_p 範囲関数に対して、閉形式の射影が可能となり、直接的な射影が計算不能であるという困難を克服した。
• 欠損サンプルを伴う画像修復の文脈において、本手法は標準的な反復的ソルバーよりも著しく収束が速く、特に非局所全変動制約を用いる場合に顕著である。
• パルス形状設計の文脈では、本手法はより高い設計の柔軟性を提供し、特に β = 2 および小規模な ε の場合に、最先端の結果と同等の性能を達成した。
• 画像回復タスクにおいて、ℓ₁,2 範囲関数は ℓ₁,∞ 範囲関数を上回る性能を示し、画像表現におけるブロックスパarsityの促進に優れていると考えられる。
• 直接射影に基づくアプローチよりも収束が速く、並列化によりさらに実行速度が向上する。
• 本フレームワークは汎用的であり、実験で示された2つの制約に限らず、任意の数の凸制約に適用可能である。