[论文解读] The proximal point algorithm in geodesic spaces with curvature bounded above

Yasunori Kimura, Fumiaki Kohsaka|arXiv (Cornell University)|Apr 19, 2017

Optimization and Variational Analysis参考文献 14被引用 5

一句话总结

本文在曲率上界有界的完备测地空间（特别是可容许的CAT(1)空间）中建立了近端点算法的收敛性与极小化子存在性。证明了当序列球面有界且步长之和为无穷大时，算法生成的序列弱收敛（Δ-收敛）至极小化子，并给出了函数值的显式次线性收敛速率。

ABSTRACT

We investigate the asymptotic behavior of sequences generated by the proximal point algorithm for convex functions in complete geodesic spaces with curvature bounded above. Using the notion of resolvents of such functions, which was recently introduced by the authors, we show the existence of minimizers of convex functions under the boundedness assumptions on such sequences as well as the convergence of such sequences to minimizers of given functions.

研究动机与目标

• 将近端点算法从希尔伯特空间与CAT(0)空间推广至曲率上界有界的测地空间，特别是CAT(1)空间。
• 建立在该类空间中，近端点算法生成的序列存在极小化子的条件。
• 证明序列Δ-收敛至极小化子，并为函数值提供定量收敛速率。
• 将希尔伯特空间与CAT(0)空间中的现有结果推广至具有曲率上界的一般CAT(1)空间类。

提出的方法

• 在CAT(1)空间中，通过用 $ \tan d(y,x) \sin d(y,x) $ 替代希尔伯特空间与CAT(0)空间中使用的平方距离，定义了一种新的预解算子，用于凸函数。
• 引入“可容许”CAT(1)空间的概念，要求所有距离小于 $ \pi/2 $，以确保预解算子定义良好。
• 使用球面有界性（定义为 $ \inf_{y \in X} \limsup_{n \to \infty} d(y,x_n) < \pi/2 $）作为极小化子存在性的关键条件。
• 通过迭代格式 $ x_{n+1} = \arg\min_{y \in X} \left\{ f(y) + \frac{1}{\lambda_n} \tan d(y,x_n) \sin d(y,x_n) \right\} $ 应用近端点算法。
• 利用曲率上界有界的度量空间中的几何与变分技术，分析序列 $ \{x_n\} $ 的渐近行为。
• 通过将函数值差距与步长之和及初始距离至极小化子的关系，建立Δ-收敛性与次线性收敛速率。

实验结果

研究问题

• RQ1 在完备CAT(1)空间中，近端点算法在何种条件下能生成收敛至凸函数极小化子的序列？
• RQ2 序列的球面有界性与该类空间中极小化子存在的关系为何？
• RQ3 近端点算法在CAT(1)空间中的收敛行为与在希尔伯特空间和CAT(0)空间中的行为相比如何？
• RQ4 能否在此设定下建立函数值的显式次线性收敛速率？
• RQ5 何种几何条件可确保曲率上界有界的空间中预解算子的定义良好与收敛？

主要发现

• 在可容许的完备CAT(1)空间中，一个适当下确界半连续凸函数的极小化子集合非空，当且仅当由近端点算法生成的序列是球面有界的，且满足 $ \sup_n d(x_{n+1}, x_n) < \pi/2 $。
• 若极小化子集合非空，则序列 $ \{x_n\} $ Δ-收敛至极小化子集合中的某元素。
• 函数值差距满足不等式 $ f(x_{n+1}) - \inf f(X) \leq \frac{C}{\sum_{k=1}^n \lambda_k} \bigl(1 - \cos d(u,x_1)\bigr) $，对所有 $ u \in \arg\min_X f $ 成立，从而确立了次线性收敛速率。
• 收敛结果可推广至一般 $ \textup{CAT}(\kappa) $ 空间（$ \kappa > 0 $），其中界与 $ \sqrt{\kappa} $ 成比例，条件变为 $ \inf_y \limsup_n d(y,x_n) < \pi/(2\sqrt{\kappa}) $ 与 $ \sup_n d(x_{n+1},x_n) < \pi/(2\sqrt{\kappa}) $。
• 本研究结果推广并细化了希尔伯特空间与CAT(0)空间中的早期工作，并与文献[9]中关于 $\Delta$-收敛在 $\textup{CAT}(\kappa)$ 空间中的独立发现一致。
• 本文证实，在曲率与有界性约束下，CAT(1)空间中的近端点算法是定义良好且有效的，且在步长满足自然可 summability 条件时具有收敛保证。