[論文レビュー] A Robust Accelerated Optimization Algorithm for Strongly Convex Functions

Saman Cyrus, Bin Hu+2 more|arXiv (Cornell University)|Oct 12, 2017

Sparse and Compressive Sensing Techniques被引用数 4

ひとこと要約

本稿では、滑らかで強く凸な関数に対する1次最適化アルゴリズムとして、収束速度と勾配ノイズに対するロバスト性のバランスを1つの調整可能なパラメータで達成する、ロバストモーメンタム法を提案する。制御理論的設計を活用することで、勾配法よりも高速な収束を達成しながら、ノイズのある勾配でも安定性を維持でき、性能は最速（トリプルモーメンタム法）から最もロバスト（勾長法）まで系統的に調整可能である。

ABSTRACT

This work proposes an accelerated first-order algorithm we call the Robust Momentum Method for optimizing smooth strongly convex functions. The algorithm has a single scalar parameter that can be tuned to trade off robustness to gradient noise versus worst-case convergence rate. At one extreme, the algorithm is faster than Nesterov's Fast Gradient Method by a constant factor but more fragile to noise. At the other extreme, the algorithm reduces to the Gradient Method and is very robust to noise. The algorithm design technique is inspired by methods from classical control theory and the resulting algorithm has a simple analytical form. Algorithm performance is verified on a series of numerical simulations in both noise-free and relative gradient noise cases.

研究の動機と目的

• 強い凸関数に対する1次最適化における収束速度と勾配ノイズに対するロバスト性のトレードオフを解消すること。
• 不正確な勾配評価や不確実な問題パラメータに対しても耐性を持つ、高速な収束を維持する加速アルゴリズムの開発。
• 1つのパラメータを介して、高速勾配法と勾長法の間を滑らかに補間する統一的フレームワークの構築。
• リャプノフ解析と線形行列不等式を用いて、ノイズなしおよびノイズありの勾配条件下でも理論的収束保証を確立すること。
• 収束速度が遅くなるほどロバストネスマージンが向上し、高レベルのノイズ下でも安定性を確保できることを示すこと。

提案手法

• 三項再帰式 $ x_{k+1} = x_k + \beta(x_k - x_{k-1}) - \alpha \nabla f(y_k) $ を提案し、$ y_k = x_k + \gamma(x_k - x_{k-1}) $ で定義される。パラメータは $ \rho $、すなわち最悪ケースの収束速度である。
• $ \alpha, \beta, \gamma $ の明示的表現を $ \rho, L, m $ および条件数 $ \kappa = L/m $ の関数として導出。これにより、収束速度 $ \rho $ を持つ線形収束が保証される。
• リャプノフ関数 $ V_k $ を用いて収束を証明。$ V_{k+1} \leq \rho^2 V_k - \nu \|\nabla g(y_k)\|^2 $ が成り立ち、$ \rho $ が大きくなるほど $ \nu $ が増加する。
• $ \nu \in [0, 1 - \frac{1}{2\kappa}] $ を調整することでロバストネスマージンを制御可能。$ \nu $ が大きいほど勾配ノイズに対する耐性が向上する。
• 相対的勾配ノイズ $ \|r_k\| \leq \delta \|\nabla f(y_k)\| $ 条件下での最悪ケース収束速度を、線形行列不等式を用いた数値的レート解析により算出。
• 2次元の二次関数を用いたシミュレーションにより、FGMおよびGMと比較して性能を検証。

実験結果

リサーチクエスチョン

• RQ1 強い凸問題における1次最適化手法は、どのようにして高速な収束と勾配ノイズに対するロバスト性のバランスを取ることができるか？
• RQ2 1つのパラメータを持つアルゴリズムが、既知の最速収束速度と最もロバストな挙動の間を滑らかに補間できるか？
• RQ3 勾配ノイズ下における収束速度とロバストネスマージンの関係は何か？ そして、それを解析的に定量化できるか？
• RQ4 勾配ノイズの増加に伴って、提案手法は高速勾配法および勾長法と比べてどの程度安定性を維持できるか？
• RQ5 調整可能なロバストネスパラメータを有するリャプノフベースの解析を用いて、相対的勾配ノイズ下でも理論的収束保証を維持できるか？

主な発見

• パrameter $ \nu = 0 $ の場合、ロバストモーメンタム法は最悪ケースの線形収束速度 $ \rho = 1 - \frac{1}{\sqrt{\kappa}} $ を達成し、トリプルモーメンタム法と同等の性能を示し、ノイズなし条件下で高速勾配法を上回る。
• $ \nu = 1 - \frac{1}{2\kappa} $ の場合、アルゴリズムはステップサイズ $ \alpha = \frac{1}{L} $ の勾長法に還元され、勾配ノイズに対する最大のロバストネスが保証される。
• $ \delta = 0.25 $ の場合、$ \nu = 0.55 $ のロバストモーメンタム法は安定に保たれるが、高速勾長法は発散を示し、中程度のノイズ下でも優れたロバストネスを示す。
• $ 0.26 < \delta < 0.41 $ の範囲では高速勾長法の収束境界がロバストモーメンタム法を上回るが、$ \delta > 0.5 $ では不安定化する。一方、ロバストモーメンタム法は $ \delta \to 1 $ まで安定に保たれる。
• ロバストネスマージン $ \nu $ は $ \rho $ に比例して増加する。つまり、収束速度が遅くなるほど勾配ノイズに対してより耐性を持つようになり、性能とロバストネスの定量的関係が明確に示された。
• シミュレーションにより、$ \nu = 0 $ のロバストモーメンタム法はノイズなし状態で最も速く収束するが、$ \delta > 0.13 $ では発散する。一方、$ \nu $ を大きくすると $ \delta = 0.5 $ でも安定性を維持できる。