[論文レビュー] Learning optimal spatially-dependent regularization parameters in total variation image restoration

Cao Van Chung, Juan Carlos De los Reyes+1 more|arXiv (Cornell University)|Mar 30, 2016

Numerical methods in inverse problems参考文献 1被引用数 9

ひとこと要約

本稿では、全変動（TV）画像ノイズ除去における空間的に依存する正則化パラメータを関数空間における二段階最適化フレームワークで学習する手法を提案する。ここで、パラメータ λ ∈ H¹(Ω) は適合性と正則化のバランスを最適化するために最適化される。一次および二次の最適性条件を用いて、局所的超線形収束を達成する、組み合わせられたシュワルツ領域分割–半滑らかニュートン法を構築した。実験により、定数λの選択に比べて優れた画像復元性能を示した。

ABSTRACT

We consider a bilevel optimization approach in function space for the choice of spatially dependent regularization parameters in TV image restoration models. First- and second-order optimality conditions for the bilevel problem are studied, when the spatially-dependent parameter belongs to the Sobolev space $H^1(Ω)$. A combined Schwarz domain decomposition-semismooth Newton method is proposed for the solution of the full optimality system and local superlinear convergence of the semismooth Newton method is analyzed. Exhaustive numerical computations are finally carried out to show the suitability of the approach.

研究の動機と目的

• TVに基づく画像ノイズ除去における最適な空間的に変化する正則化パラメータの選択という課題に対処すること。
• λ ∈ H¹(Ω) および局所的正の制約を含む二段階最適化問題に対して一次および二次の最適性条件を確立すること。
• 得られた複雑で滑らかでない、PDE制約付きの最適性系を数値的に効率的に解く戦略を開発すること。
• 提案された数値スキームの局所的超線形収束を、現実的な画像復元タスクにおいて検証すること。

提案手法

• 上位問題は訓練画像のデータ不適合を最小化する関数空間における二段階最適化問題を定式化し、下位問題は空間的に変化するλを用いたTVノイズ除去問題を解く。
• ラグランジュ乗数を用いて一次最適性条件を導出し、解作用素のフレシェ微分可能性を証明。適切な仮定の下で、先行研究を二次フレシェ微分可能性へと拡張。
• 臨界方向の錐を導入し、背理法を用いて二次十分最適性条件を確立。
• シュワルツ領域分割を用いて計算領域を重複する部分領域に分割し、各部分領域で縮小された最適性系を解く。
• 各部分領域で非線形で滑らかでない系を解くために、半滑らかニュートン法を実装。収束解析により、局所的超線形収束を理論的に証明。
• 領域分割と半滑らかニュートン反復を組み合わせたアルゴリズムフレームワークを採用し、大規模で結合されたPDE系を効率的に処理。

実験結果

リサーチクエスチョン

• RQ1 H¹(Ω) 内の空間的に依存する正則化パラメータを有する二段階TVノイズ除去問題に対して、二次最適性条件を導出できるか？
• RQ2 適切な仮定の下で、下位問題の解作用素が二回フレシェ微分可能であることをどのように示せるか？
• RQ3 二段階定式化から生じる最適性系に半滑らかニュートン法を適用した際の収束挙動はいかなるものか？
• RQ4 シュワルツ領域分割法を、線形化されたバージョンではなく、非線形で滑らかでない最適性系に直接適用できるか？
• RQ5 画像復元品質と収束速度の観点から、空間的に変化するλは定数λに比べてどのように性能が向上するか？

主な発見

• 適切な条件下で、下位問題のTVノイズ除去問題の解作用素が二回フレシェ微分可能であることが示された。これにより、二次最適性解析が可能となった。
• 臨界方向の錐と背理法を用いて、二次十分最適性条件を確立。最適パラメータの局所的一意性と安定性が保証された。
• 組み合わせたシュワルツ領域分割–半滑らかニュートン法は、理論的にも数値的にも局所的超線形収束を達成した。
• 包括的な数値実験により、空間的に依存するλは定数λに比べて、特に不均一なノイズの処理や微細構造の保持において顕著に優れた画像復元品質を示した。
• 訓練セットの2倍の数の式を含む完全な最適性系を効果的に処理でき、ベンチマーク画像においてスケーラビリティとロバストネスを示した。
• 図1.2に示すように、空間的に適応するλのアプローチは、定数パラメータモデルを上回る性能を示し、エッジやテクスチャをよりよく保持した。