[論文レビュー] A constant step Forward-Backward algorithm involving random maximal monotone operators

Pascal Bianchi, Walid Hachem+1 more|arXiv (Cornell University)|Feb 14, 2017

Optimization and Variational Analysis参考文献 30被引用数 4

ひとこと要約

本稿では、確率的極大単調作用素を伴う定数ステップサイズの確率的前向き・後向きアルゴリズムを提案し、平均作用素からなる微分包含による収束を分析する。補間過程の狭義収束を、微分包含の解へと確立し、デュープォジティブ性の下で、繰り返しのCesàro平均において和作用素のゼロ集合に近いままであることを証明する。また、関連するマルコフ連鎖の不変測度を用いて、エルゴード的挙動を特徴づける。

ABSTRACT

A stochastic Forward-Backward algorithm with a constant step is studied. At each time step, this algorithm involves an independent copy of a couple of random maximal monotone operators. Defining a mean operator as a selection integral, the differential inclusion built from the sum of the two mean operators is considered. As a first result, it is shown that the interpolated process obtained from the iterates converges narrowly in the small step regime to the solution of this differential inclusion. In order to control the long term behavior of the iterates, a stability result is needed in addition. To this end, the sequence of the iterates is seen as a homogeneous Feller Markov chain whose transition kernel is parameterized by the algorithm step size. The cluster points of the Markov chains invariant measures in the small step regime are invariant for the semiflow induced by the differential inclusion. Conclusions regarding the long run behavior of the iterates for small steps are drawn. It is shown that when the sum of the mean operators is demipositive, the probabilities that the iterates are away from the set of zeros of this sum are small in Ces\\`aro mean. The ergodic behavior of these iterates is studied as well. Applications of the proposed algorithm are considered. In particular, a detailed analysis of the random proximal gradient algorithm with constant step is performed.

研究の動機と目的

• 固定ステップサイズの下で、確率的極大単調作用素を伴う確率的前向き・後向きアルゴリズムの動的挙動を研究すること。
• 補間された反復列が、平均作用素によって駆動される微分包含の解へ収束することを確立すること。
• 関連するFellerマルコフ連鎖の不変測度を用いて、反復列の長期的挙動を特徴づけること。
• 平均作用素の和がデュープォジティブである場合に、反復列がCesàro平均において和作用素のゼロ集合に近いままであることを示すこと。
• アルゴリズムのエルゴード的性質を分析し、定数ステップサイズのランダムプロキシマル勾配法にその枠組みを適用すること。

提案手法

• アルゴリズムは定数ステップサイズγを用い、各反復で確率空間(Ξ, G)に従う独立な確率的極大単調作用素A(ξn)およびB(ξn)のコピーを選択する。分布はμである。
• 平均作用素はA = ∫A(s)μ(ds)およびB = ∫B(s)μ(ds)で定義され、積分は選択積分として扱われ、A + Bによって制御される微分包含を形成する。
• 反復列の補間過程が、小さなステップサイズの下で、微分包含の解へと狭義収束することが示される。
• 反復列の系列は、γでパrameter化された遷移核を有する同質Fellerマルコフ連鎖としてモデル化され、不変測度の分析が可能になる。
• γ → 0の下で、不変測度の集合の極限点が、微分包含によって誘導される半フローに関して不変であることが示される。
• 弱収束の分析とMazurの定理を用いて、L1+ε/2空間内での収束部分列の抽出を行うことで、エルゴード的挙動が分析される。

実験結果

リサーチクエスチョン

• RQ1 定数ステップサイズの確率的前向き・後向き反復列の補間過程は、小さなステップサイズの下で、平均作用素A + Bによって定義される微分包含の解へ収束するか？
• RQ2 ステップサイズが固定かつ小さい場合、反復列の長期的挙動は、平均作用素の和のゼロ集合への近接性に関してどのように特徴づけられるか？
• RQ3 ステップサイズγが0に近づくとき、アルゴリズムに関連するマルコフ連鎖の不変測度はどのように振る舞うか？
• RQ4 どのような条件下で、アルゴリズムが反復列がCesàro平均において解集合に近いままであることを保証するか？
• RQ5 反復列のエルゴード的性質は特徴づけられるか？また、それらは微分包含の半フローとどのように関係するか？

主な発見

• 小さなステップサイズの下で、補間過程は平均作用素A + Bによって定義される微分包含の解へと狭義収束する。
• Fellerマルコフ連鎖の不変測度の極限点は、微分包含によって誘導される半フローに関して不変である。
• A + Bがデュープォジティブである場合、反復列がA + Bのゼロ集合から遠く離れる確率は、Cesàro平均において小さい。
• 反復列のエルゴード的挙動は、経験的測度の弱収束が半フローの不変測度へと収束することによって特徴づけられる。
• 定数ステップサイズの下で、ランダムプロキシマル勾配法が同様の収束性およびエルゴード性を満たすことが示される。
• コンパクト性とL1+ε/2空間内での収束性の分析、および部分列抽出のためのMazurの定理を用いて、タイトネスと分布収束が確立される。