[論文レビュー] A new splitting method for solving composite monotone inclusions involving parallel-sum operators

Quoc Tran-Dinh, Bằng Công Vũ|arXiv (Cornell University)|May 29, 2015

Optimization and Variational Analysis参考文献 24被引用数 4

ひとこと要約

本稿では、リプシッツ的および平行和型の単調作用素を含む複合単調包含問題を解くための新しいプリマルデュアルスプリッティング法を提案する。Kuhn-Tucker集合を活用し、各単調作用素の解像作用素を別々に計算することで、解への弱収束を保証する。従来の手法と比較して、特に独立したプロキシマル作用素による複合凸最小化において、より柔軟でモジュラーなアプローチを提供する。

ABSTRACT

We propose a new primal-dual splitting method for solving composite inclusions involving Lipschitzian, and parallel-sum-type monotone operators. Our approach extends the framework in \cite{Siopt4} to a more general class of monotone inclusions in a nontrivial fashion. The main idea is to represent the solution set of both the primal and dual problems using their associated Kuhn-Tucker set, and then develop a projected method to successively approximate a feasible point of the Kuhn-Tucker set. We propose a splitting algorithm based on the resolvent of each maximally monotone operator to construct a primal-dual sequence that weakly converges to a solution of the original problem. The key feature of our method is that it only employes the resolvent of each monotone operator separately, which is different from existing methods in the literature. As a byproduct, our algorithm can be specialized to solve composite convex minimization problems that uses the proximal-operator of each objective component independently, and is equipped with a weakly convergence guarantee.

研究の動機と目的

• 平行和型単調作用素を含む複合単調包含問題を扱う。これは、多くの構造的単調包含問題を一般化する。
• 従来のフレームワークの範囲外にある、より広いクラスの単調包含問題にまで拡張されたプリマルデュアル法を提供する。
• 共同解像作用素の計算を避けるために、各単調作用素の解像作用素のみを必要とする手法を開発する。
• プリマルデュアル列が元の問題の解へ弱収束することを保証する。
• 各目的関数成分のプロキシマル作用素を独立して処理できる、柔軟なアルゴリズムフレームワークを提供する。

提案手法

• 解の集合をKuhn-Tucker集合によって表現し、最適性条件を要約する。
• Kuhn-Tucker集合内の妥当な点を段階的に近似するための射影反復スキームを開発する。
• 各最大単調作用素の解像作用素を別々に計算することで、プリマルデュアル列を構築し、共同解像作用素の計算を回避する。
• Kuhn-Tucker集合の性質と射影メカニズムの特性を用いて、列の弱収束を確立する。
• 各目的関数成分のプロキシマル作用素を独立して処理することで、複合凸最小化問題に特化したアプローチを実現する。
• 各作用素の解像作用素のみに依存することで収束を保証し、モularityと計算可能性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 プリマルデュアルスプリッティング法は、平行和型単調作用素を含む複合単調包含問題にどのように拡張可能か？
• RQ2 共同解像作用素の計算を必要とせず、各単調作用素の解像作用素のみを必要とするスプリッティング法は設計可能か？
• RQ3 分離可能な目的関数を有する複合凸最小化問題に適用した場合、そのような手法の収束特性はいかなるものか？
• RQ4 Kuhn-Tucker集合フレームワークは、この文脈においてプリマルとデュアルの両方の妥当性を統一的に取り扱うのにどのように寄与するか？
• RQ5 この新しいスプリッティング戦略下で、プリマルデュアル列の弱収束を保証する条件は何か？

主な発見

• 提案手法は、元の複合単調包含問題の解へプリマルデュアル列の弱収束を達成する。
• アルゴリズムは各単調作用素の解像作用素のみを必要とし、モジュラーで効率的な実装を可能にする。
• 平行和作用素を含むより広いクラスの単調包含問題を扱えるようにすることで、従来のフレームワークを一般化する。
• 各目的関数成分のプロキシマル作用素を独立して処理することで、複合凸最小化問題に特化したアプローチが可能になる。
• 解の表現としてKuhn-Tucker集合を用いることで、統一的かつ構造的な収束解析が可能になる。
• 特に分離可能で構造的な単調包含問題の文脈において、一部の既存手法よりも弱い仮定のもとで新たな収束保証を提供する。