[論文レビュー] The proximal point method revisited

Dmitriy Drusvyatskiy|arXiv (Cornell University)|Dec 17, 2017

Numerical methods in inverse problems参考文献 52被引用数 33

ひとこと要約

この論文は、大規模最適化における実用的で理論的根拠を持つフレームワークとして、プロキシマル・ポイント法を再考し、弱凸確率的近似、凸・滑らか関数の合成最小化におけるプロキシマル・ラインアーリング法、および正則化された経験的リスク最小化の一般化された加速（Catalystフレームワーク）におけるその役割を示している。主な貢献は、従来の概念的役割を超えて、プロキシマル手法が、保証された高速性、解釈可能性、実装可能性を備えたアルゴリズムを導出可能であることを示したことにある。

ABSTRACT

In this short survey, I revisit the role of the proximal point method in large scale optimization. I focus on three recent examples: a proximally guided subgradient method for weakly convex stochastic approximation, the prox-linear algorithm for minimizing compositions of convex functions and smooth maps, and Catalyst generic acceleration for regularized Empirical Risk Minimization.

研究の動機と目的

• 最適化における伝統的な概念的役割を超えて、プロキシマル・ポイント法を実用的アルゴリズムフレームワークとして再評価すること。
• プロキシマル手法が、現代の大規模問題における効率的数値アルゴリズムの設計と解析をどのように導けるかを示すこと。
• 弱凸確率的近似や正則化された経験的リスク最小化のような設定において、プロキシマルに誘導されたアルゴリズムが、明確な理論的保証のもとで高速収束を達成できることを示すこと。
• プロキシマル・ポイント理論の視点から、最近の加速法および勾配法の進展を統一的かつ一般化すること。

提案手法

• プロキシマル・ポイント反復 $ x_{t+1} \in \mathrm{prox}_{\nu f}(x_t) $ を使用し、二次罰則を伴う正則化された部分問題を解く。
• 関数 $ f $ の滑らかな近似として、モアレ・エンvelope $ f_\nu(z) = \inf_x \{ f(x) + \frac{1}{2\nu}\|x - z\|^2 \} $ を活用し、勾配ベースの手法を可能にする。
• $ \rho $-弱凸関数に対してプロキシマル・ポイント法を適用し、$ f(x) + \frac{\rho}{2}\|x\|^2 $ が凸であることを保証する。$ \nu < \rho^{-1} $ のとき、部分問題は凸となる。
• 勾配公式 $ \nabla f_\nu(x) = \nu^{-1}(x - \mathrm{prox}_{\nu f}(x)) $ を用い、プロキシマルステップとモアレ・エンvelope上での勾配降下法を結びつける。
• 正則化された経験的リスク最小化（ERM）のためのバリアンス低減手法にプロキシマル・ポイントのアイデアを適用する汎用的加速スキーム（Catalystフレームワーク）を導入し、反復複雑度の向上を達成する。
• 非凸および弱凸問題の加速に、慣性とモーメンタムをプロキシマル文脈で用い、収束速度に関する理論的保証を提示する。

実験結果

リサーチクエスチョン

• RQ1 プロキシマル・ポイント法は、大規模最適化問題における実用的で保証された収束性を備えたアルゴリズムの設計に用いられるか？
• RQ2 プロキシマル・ポイント法は、確率的および合成最適化で生じる弱凸関数を扱うためにどのように適合可能か？
• RQ3 正則化された経験的リスク最小化における加速を可能にするプロキシマル正則化の役割は何か？
• RQ4 プロキシマル・ポイントフレームワークは、機械学習分野の既存のバリアンス低減手法を統一的かつ加速可能か？
• RQ5 慣性とプロキシマルステップの組み合わせは、非凸および弱凸設定における収束をどのように改善するか？

主な発見

• 適切なパラメータ選択と反復的ソルバーを組み合わせたプロキシマル・ポイント法は、大規模最適化における実用的で理論的根拠を持つアルゴリズムを導く。
• $ \rho $-弱凸関数に対して $ \nu < \rho^{-1} $ のとき、プロキシマル部分問題は凸であり、標準的手法による効率的解法が可能となる。
• モアレ・エンvelope $ f_\nu $ は $ C^1 $-滑らかであり、プロキシマル・ポイント反復は $ f_\nu $ 上での勾配降下と等価である。$ \|x_t - x_{t+1}\| $ を用いた自然な終了基準が得られる。
• Catalystフレームワークは、$ \widetilde{O}\left(\frac{\sqrt{\mu + \kappa}}{\tau \sqrt{\mu}} \ln(1/\varepsilon)\right) $ の複雑度を達成し、バリアンス低減手法のERM問題への加速を可能にする。
• 凸関数と滑らか関数の合成最小化のためのプロキシマル・ラインアーリング法は、穏やかな条件下でグローバル収束と局所的超線形収束率を達成する。
• 慣性をプロキシマルステップと組み合わせることで、$ C^2 $ および $ C^3 $ 滑らかな非凸問題において、勾配降下法よりも保証された高速な収束が達成され、凸性を超えたプロキシマル手法の潜在的価値が示された。