[論文レビュー] The proximal point algorithm in geodesic spaces with curvature bounded above

Yasunori Kimura, Fumiaki Kohsaka|arXiv (Cornell University)|Apr 19, 2017

Optimization and Variational Analysis参考文献 14被引用数 5

ひとこと要約

本稿は、曲率が上から有界な完全な測地的空間、特に許容的CAT(1)空間において、近接点法の収束性および最小化子の存在を確立する。このアルゴリズムによって生成される列が球面的有界でかつステップサイズの和が無限大である場合、列は弱収束（Δ収束）して最小化子に収束し、関数値に対して明示的な非線形収束速度が得られる。

ABSTRACT

We investigate the asymptotic behavior of sequences generated by the proximal point algorithm for convex functions in complete geodesic spaces with curvature bounded above. Using the notion of resolvents of such functions, which was recently introduced by the authors, we show the existence of minimizers of convex functions under the boundedness assumptions on such sequences as well as the convergence of such sequences to minimizers of given functions.

研究の動機と目的

• ヒルバート空間およびCAT(0)空間から、曲率が上から有界な測地的空間、特にCAT(1)空間へ近接点法を拡張すること。
• このような空間における近接点法によって生成される列が最小化子を持つための条件を確立すること。
• 列が最小化子にΔ収束することを証明し、関数値の定量的収束速度を提供すること。
• ヒルバート空間およびCAT(0)空間における既存の結果を、曲率上界をもつより広いクラスのCAT(1)空間へ一般化すること。

提案手法

• ヒルバート空間およびCAT(0)空間で用いられる二乗距離の代わりに、$ \tan d(y,x) \sin d(y,x) $ 項を用いて、CAT(1)空間における凸関数の新しいリゾルベント作用素を定義する。
• すべての距離が$ \pi/2 $未満であることを要件とする「許容的」CAT(1)空間の概念を導入し、リゾルベントが適切に定義されることを保証する。
• 球面的有界性（$ \inf_{y \in X} \limsup_{n \to \infty} d(y,x_n) < \pi/2 $）を、最小化子の存在のための重要な条件として用いる。
• 反復スキーム $ x_{n+1} = \arg\min_{y \in X} \left\{ f(y) + \frac{1}{\lambda_n} \tan d(y,x_n) \sin d(y,x_n) \right\} $ を用いて近接点法を適用する。
• 曲率が上から有界な距離空間における幾何学的・変分的技法を用いて、列$ \{x_n\} $の漸近的挙動を分析する。
• 関数値の差とステップサイズの和および最小化子への初期距離を関連させることで、Δ収束および非線形収束速度を確立する。

実験結果

リサーチクエスチョン

• RQ1 完備なCAT(1)空間における近接点法が、凸関数の最小化子に収束する列を生成するための条件は何か？
• RQ2 この空間における列の球面的有界性と最小化子の存在との関係は何か？
• RQ3 CAT(1)空間における近接点法の収束挙動は、ヒルバート空間およびCAT(0)空間におけるものとどのように異なるか？
• RQ4 この設定において関数値に対して明示的な非線形収束速度を確立できるか？
• RQ5 どのような幾何的条件が、曲率が上から有界な空間におけるリゾルベント作用素の適切な定義および収束を保証するか？

主な発見

• 適切で下に半連続な凸関数の最小化子集合が、許容的で完備なCAT(1)空間において空でないための必要十分条件は、近接点法によって生成される列が球面的有界で、かつ$ \sup_n d(x_{n+1}, x_n) < \pi/2 $ を満たすことである。
• 最小化子集合が空でない場合、列$ \{x_n\} $は最小化子集合の元にΔ収束する。
• 関数値の差は、すべての$ u \in \arg\min_X f $ に対して、$ f(x_{n+1}) - \inf f(X) \leq \frac{C}{\sum_{k=1}^n \lambda_k} \bigl(1 - \cos d(u,x_1)\bigr) $ を満たし、非線形収束速度が確立される。
• 収束結果は、$ \kappa > 0 $ である一般の$ \textup{CAT}(\kappa) $ 空間へ拡張可能であり、境界は$ \sqrt{\kappa} $ に比例し、条件は$ \inf_y \limsup_n d(y,x_n) < \pi/(2\sqrt{\kappa}) $ および$ \sup_n d(x_{n+1},x_n) < \pi/(2\sqrt{\kappa}) $ に変わる。
• 本稿の結果は、ヒルバート空間およびCAT(0)空間における先行研究を一般化・精緻化しており、[9]における$\textup{CAT}(\kappa)$空間におけるΔ収束に関する独立的な発見とも整合する。
• 本稿は、曲率および有界性制約の下で、CAT(1)空間における近接点法が適切に定義され、効果的であることを確認しており、ステップサイズの自然な和分条件のもとで収束保証が得られる。