[論文レビュー] Robust Accelerated Gradient Method

Necdet Serhat Aybat, Alireza Fallah+2 more|arXiv (Cornell University)|May 27, 2018

Sparse and Compressive Sensing Techniques被引用数 1

ひとこと要約

本稿では、強い凸最適化における収束速度とランダム勾配ノイズへの耐性のトレードオフを最適化する、ロバストな加速勾配法を提案する。ロバスト制御理論とリャプノフ解析を用いて、ノイズによるサブ最適性の正確かつタイトな上限を導出し、ノイズのある勾配下でも、標準的勾配降下法に比べてより高速な収束と優れた耐性を達成できることが示された。

ABSTRACT

We study the trade-offs between convergence rate and robustness to gradient errors in designing a first-order algorithm. We focus on gradient descent (GD) and accelerated gradient (AG) methods for minimizing strongly convex functions when the gradient has random errors in the form of additive white noise. With gradient errors, the function values of the iterates need not converge to the optimal value; hence, we define the robustness of an algorithm to noise as the asymptotic expected suboptimality of the iterate sequence to input noise power. For this robustness measure, we provide exact expressions for the quadratic case using tools from robust control theory and tight upper bounds for the smooth strongly convex case using Lyapunov functions certified through matrix inequalities. We use these characterizations within an optimization problem which selects parameters of each algorithm to achieve a particular trade-off between rate and robustness. Our results show that AG can achieve acceleration while being more robust to random gradient errors. This behavior is quite different than previously reported in the deterministic gradient noise setting. We also establish some connections between the robustness of an algorithm and how quickly it can converge back to the optimal solution if it is perturbed from the optimal point with deterministic noise. Our framework also leads to practical algorithms that can perform better than other state-of-the-art methods in the presence of random gradient noise.

研究の動機と目的

• 一次最適化手法における収束速度とランダム勾配誤差への耐性のトレードオフを分析すること。
• 加法的ホワイトノイズが勾配に与える影響による漸近的期待サブ最適性としての耐性を定義し、定量すること。
• リャプノフ関数と行列不等式を用いて、滑らかで強い凸関数に対するサブ最適性の正確な表現とタイトな上界を導出すること。
• 収束速度と耐性のバランスを取るために、アルゴリズムパラメータを最適化するための最適化問題を定式化・解法すること。
• ランダム勾配ノイズ下で最先端手法を上回る性能を示す実用的アルゴリズムの開発すること。

提案手法

• ロバスト制御理論を用いて、加法的ホワイトノイズが勾配に与える影響下での二次関数における漸近的期待サブ最適性の正確な表現を導出する。
• 行列不等式による証明を伴うリャプノフ関数を適用し、滑らかで強い凸関数の場合のサブ最適性に対するタイトな上界を確立する。
• アルゴリズムのダイナミクスをプロセスノイズを伴う確率的線形システムとしてモデル化し、勾配誤差下での反復の長期的挙動を分析する。
• 収束速度とノイズへの耐性のバランスを取るために、制約付き最適化問題を解いてアルゴリズムパラメータを最適化する。
• ロバストネスと最適解近傍における決定的摂動からの回復能力との間の関係を確立する。
• 既知のノイズパワー下で期待サブ最適性を最小化するようにパラメータを調整することで、実用的アルゴリズムの変種を導出する。

実験結果

リサーチクエスチョン

• RQ1 ランダム勾配ノイズの下で、標準的および加速勾配法の収束挙動（期待サブ最適性の観点から）はどのように影響を受けるか？
• RQ2 加速勾配法は、勾配降下法に比べ、より高速な収束と改善されたランダム勾配ノイズへの耐性を両立できるか？
• RQ3 二次関数の場合、アルゴリズムパラメータ、ノイズパワー、および漸近的期待サブ最適性との正確な関係は何か？
• RQ4 リャプノフ関数と行列不等式を用いて、ノイズ下での滑らかで強い凸関数に対するサブ最適性のタイトなバウンドをどのように導出できるか？
• RQ5 ランダムノイズへのロバストネスと、最適解近傍における決定的摂動からの回復速度との間にはどのような関係があるか？

主な発見

• 従来の決定的ノイズ設定における知見とは対照的に、加速勾配法は、標準的勾配降下法に比べ、より高速な収束とより高いノイズ耐性を両立できることが示された。
• 二次関数の場合、ロバスト制御理論を用いて、ノイズパワーとアルゴリズムパラメータの関数として、漸近的期待サブ最適性の正確な表現を導出した。
• 滑らかで強い凸関数の場合、リャプノフ関数と行列不等式を用いてサブ最適性のタイトな上界を導出し、ロバストネスの厳密な特徴付けが可能になった。
• パラメータ選択のための提案された最適化フレームワークにより、ランダム勾配ノイズ下で既存の最先端手法を上回る性能を示すアルゴリズムが得られた。
• ランダムノイズへのロバストネスは、最適解近傍における決定的摂動からの回復速度と強く相関していることがわかった。
• 本フレームワークにより、ノイズ勾配条件下で性能が保証的に向上する実用的アルゴリズムの設計が可能になった。