[論文レビュー] Finite Step Performance of First-order Methods Using Interpolation Conditions Without Function Evaluations

Bruce Lee, Peter Seiler|arXiv (Cornell University)|May 4, 2020

Stochastic Gradient Optimization Techniques参考文献 15被引用数 5

ひとこと要約

本稿では、勾配評価と補間条件のみを用いて、リプシッツ勾配をもつ強い凸関数上で、一階最適化アルゴリズムの有限ステップworst-case性能バウンドを計算する新規手法を提示する。二重にハイパードミナントな行列を活用することで、制約数を階乗からO(N²)に削減し、関数評価の制約なしに効率的な数値計算を可能にするとともに、worst-case性能を達成する関数例を構築する。

ABSTRACT

We present a procedure to numerically compute finite step worst case performance guarantees on a given algorithm for the unconstrained optimization of strongly convex functions with Lipschitz continuous gradients. The solution method provided serves as an alternative approach to that derived by Taylor, Hendrickx, and Glineur in [Math. Prog. 161 (1-2), 2017]. The difference lies in the fact that our solution uses conditions for the interpolation of a set of points and gradient evaluations by the gradient of a function in the class of interest, whereas their solution uses conditions for the interpolation of a set of points, gradient evaluations, and function evaluations by a function in the class of interest. The motivation for this alternative solution is that, in many cases, neither the algorithm nor the performance metric of interest rely upon function evaluations. The primary development is a procedure to avoid suffering from the factorial growth in the number of these conditions with the size of the set to be interpolated when solving for the worst case performance.

研究の動機と目的

• 一階最適化アルゴリズムの有限ステップworst-case性能バウンドを数値的に効率よく計算する手法の開発。
• 勾配情報のみに依存するアルゴリズムにおいて、補間に基づく性能解析で不要な関数評価を排除すること。
• 従来の手法がスケーラビリティを損なう要因となる補間制約の階乗的増加を緩和すること。
• 計算されたworst-case性能に達する明示的な関数を構築するフレームワークの提供。
• 有限ステップと漸近的性能バウンドの間の関係を、共通の補間構造を通じて確立すること。

提案手法

• 強い凸関数に由来する点と勾配ペアが、必要十分な補間条件を満たすことを保証する。
• これらの補間条件から導かれる制約を用いて、凸最適化問題として性能バウンドの計算を定式化する。
• 補間条件の錐結合において二重にハイパードミナントな行列を活用することで、制約数を階乗からO(N²)に削減する。
• 関数評価を完全に回避するため、勾配情報に依存するアルゴリズムに適した手法である。
• アルゴリズムのダイナミクスと時間経過に伴う性能の変化をモデル化するための状態空間表現を構築する。
• システム行列とスラック行列Hを含む行列不等式を満たす半正定値計画問題を解くことで、worst-case性能を計算する。

実験結果

リサーチクエスチョン

• RQ1 補間条件における関数評価に依存せずに、有限ステップworst-case性能バウンドを効率的に計算できるか？
• RQ2 性能バウンドの正確性を保ちつつ、補間制約の階乗的増加をどのように緩和できるか？
• RQ3 計算されたworst-case性能に達する問題クラス内の明示的な関数を構築することは可能か？
• RQ4 一階最適化法における有限ステップと漸近的収束レートの関係は何か？
• RQ5 提案手法を、飽和などの非線形性を有するフィードバックシステムの解析に拡張可能か？

主な発見

• 提案手法は、関数評価を一切用いず、勾配評価のみで有限ステップworst-case性能バウンドを計算可能であり、不要な関数評価制約を回避する。
• 補間制約の数はO(N²)として二次的に増加し、従来手法の制限要因であった階乗的増加を排除する。
• 本手法は正確なworst-case性能バウンドを提供し、そのバウンドに達する関数例を構築可能である。
• 数値結果から、有限ステップの性能の減衰レートが漸近的収束レートと非常に近いことが示され、タイトさが裏付けられる。
• 同じ問題インスタンスに対して、同じフレームワークから得られる漸近的性能バウンドは、既存の文献のバウンドよりもタイトである。