[論文レビュー] Accelerated Gradient Methods with Memory

Ross Drummond, Stephen Duncan|arXiv (Cornell University)|May 23, 2018

Advanced Optimization Algorithms Research参考文献 14被引用数 4

ひとこと要約

本稿では、強い凸関数における収束速度の向上を図るために、過去の反復点の記憶を活用する加速型1次順序最適化アルゴリズムの族、$\Sigma_N$ を提案する。$N$ ステップ分の履歴を組み込んだ高速勾配法を拡張し、適応的リスタート制御器を統合することで、加速性を維持しながらもロバスト性を回復させた。ローゼンブロック関数において、$(-1,1)$ からの初期値で43反復目までに関数値 $7.58 \times 10^{-12}$ を達成した。

ABSTRACT

A set of accelerated first order algorithms with memory are proposed for minimising strongly convex functions. The algorithms are differentiated by their use of the iterate history for the gradient step. The increased convergence rate of the proposed algorithms comes at the cost of robustness, a problem that is resolved by a switching controller based upon adaptive restarting. Several numerical examples highlight the benefits of the proposed approach over the fast gradient method. For example, it is shown that these gradient based methods can minimise the Rosenbrock banana function to $7.58 imes 10^{-12}$ in 43 iterations from an initial condition of $(-1,1)$.

研究の動機と目的

• 過去の反復点の情報を活用することで、高速勾配法を上回る収束速度を実現する1次順序最適化アルゴリズムの開発。
• 悪条件や非理想な問題に適用した場合に顕在する加速手法の本質的欠陥、すなわちロバスト性の欠如を解消すること。
• 絶対安定性理論を用いて、二次関数から強い凸関数への加速手法の収束解析を一般化すること。
• スイッチング型の適応的リスタート制御器を設計し、加速性を保持したまま単調収束性を回復させること。
• ローゼンブロック関数やラストリジン関数を含む、凸および非凸のベンチマーク関数における、提案手法の有効性を実証すること。

提案手法

• 提案手法 $\Sigma_N$ は、反復点の $N$ ステップ分の履歴を組み込むことで、モーメンタム型の更新を実現し、収束速度を向上させる。
• 二次関数に対してパラメータ化された場合、主要固有空間における誤差は $\left(1 - \left(\frac{\mu}{L}\right)^{1/N}\right)^k$ のレートで減少する。
• 不安定性を検出するための適応的リスタートに基づくスイッチング制御器を導入し、安定な反復点に切り替えることで、単調収束性を回復させる。
• 絶対安定性理論を用いて安定性および収束特性を解析し、二次関数から強い凸問題への結果の拡張を実現した。
• 制御器は各ステップで候補となる反復点を動的に選択し、加速性を損なわずにロバスト性を確保した。
• 非凸関数、特にラストリジン関数に対しても適用し、局所最適解から脱出し、グローバル最小値付近に収束することに成功した。

実験結果

リサーチクエスチョン

• RQ1 1次順序手法に $N$ ステップ分の履歴を組み込むことで、強い凸関数における収束速度を顕著に向上させることができるか？
• RQ2 高速勾配法などの加速手法がロバスト性を欠く理由は何か？ そして、これを体系的に是正できるか？
• RQ3 スイッチング型の適応的リスタート機構により、加速性を維持したまま単調収束性を回復させることができるか？
• RQ4 記憶に基づくアルゴリズムは、多重の局所最適解を有する非凸関数（例：ラストリジン関数）において、どのように性能を発揮するか？
• RQ5 ローゼンブロックバナナ関数のような困難なテスト関数において、提案手法が勾配降下法やネルダーミード法をどれほど上回るか？

主な発見

• $\Sigma_N$ アルゴリズムは、主要誤差モードに対して $\left(1 - \left(\frac{\mu}{L}\right)^{1/N}\right)^k$ の収束レートを達成し、$N \geq 3$ の場合、高速勾配法を上回る。
• ローゼンブロックバナナ関数において、$\Sigma_9^{ml}$ は初期点 $x_0 = (-1,1)$ から43反復目で関数値 $7.58 \times 10^{-12}$ を達成した。これはネルダーミード法が $1.35 \times 10^{-10}$ に到達するまでに185反復を要したのに対し、顕著な性能向上を示した。
• 同じローゼンブロック例において、高速勾配法はロバスト性の欠如により発散したが、$\Sigma_N^{ml}$ は安定かつ収束を維持した。
• ラストリジン関数において、$\Sigma_6^{ml}$ は星型のパターンに沿った好適な初期条件から、関数値を $10^{-6}$ から $10^{-8}$ の範囲にまで低下させた。一方、他の領域では $10^{-3}$ から $10^{-1}$ の範囲に留まった。
• $x_0 = (5,5)$ からの初期値で、463反復目までに $f_{\text{Rast}} = 10^{-6}$ を達成し、局所最適解から脱出しグローバル最小値付近に収束する能力を示した。
• 適応的リスタート制御器は、$L$ が最小値付近の局所曲率を上回る場合でさえ、単調収束性を回復させ、不安定性を回避しながら加速性を維持した。