[論文レビュー] A Control-Theoretic Perspective on Optimal High-Order Optimization

Tianyi Lin, Michael I. Jordan|arXiv (Cornell University)|Dec 16, 2019

Tensor decomposition and applications参考文献 97被引用数 11

ひとこと要約

本稿は、勾配およびヘッセ作用素によって支配される連続時間閉ループ系を、代数的方程式で定義されたフィードバック制御則を用いてモデル化することにより、最適な高次最適化の制御理論的枠組みを導入する。目的関数ギャップの収束速度 $O(1/t^{(3p+1)/2})$ および勾配ノルムの二乗の収束速度 $O(1/t^{3p})$ を確立し、離散化により2つの $p$ 次テンソルアルゴリズムを導出し、滑らかな凸関数に対して最適収束速度を達成する。

ABSTRACT

We provide a control-theoretic perspective on optimal tensor algorithms for minimizing a convex function in a finite-dimensional Euclidean space. Given a function $Φ: \mathbb{R}^d ightarrow \mathbb{R}$ that is convex and twice continuously differentiable, we study a closed-loop control system that is governed by the operators $ abla Φ$ and $ abla^2 Φ$ together with a feedback control law $λ(\cdot)$ satisfying the algebraic equation $(λ(t))^p\| ablaΦ(x(t))\|^{p-1} = θ$ for some $θ\in (0, 1)$. Our first contribution is to prove the existence and uniqueness of a local solution to this system via the Banach fixed-point theorem. We present a simple yet nontrivial Lyapunov function that allows us to establish the existence and uniqueness of a global solution under certain regularity conditions and analyze the convergence properties of trajectories. The rate of convergence is $O(1/t^{(3p+1)/2})$ in terms of objective function gap and $O(1/t^{3p})$ in terms of squared gradient norm. Our second contribution is to provide two algorithmic frameworks obtained from discretization of our continuous-time system, one of which generalizes the large-step A-HPE framework and the other of which leads to a new optimal $p$-th order tensor algorithm. While our discrete-time analysis can be seen as a simplification and generalization of~\citet{Monteiro-2013-Accelerated}, it is largely motivated by the aforementioned continuous-time analysis, demonstrating the fundamental role that the feedback control plays in optimal acceleration and the clear advantage that the continuous-time perspective brings to algorithmic design. A highlight of our analysis is that we show that all of the $p$-th order optimal tensor algorithms that we discuss minimize the squared gradient norm at a rate of $O(k^{-3p})$, which complements the recent analysis.

研究の動機と目的

• 凸最適化における最適な高次テンソルアルゴリズムの連続時間制御理論的視点の構築。
• バナッハ不動点定理とリャプノフ関数を用いた閉ループ力学系の解の全域的存在および一意性の確立。
• 連続系の離散化により、既存の枠組みを一般化・簡略化した離散時間 $p$ 次最適テンソルアルゴリズムの導出。
• 提案アルゴリズムが勾配ノルムの二乗に対して最適収束速度 $O(k^{-3p})$ を達成することの実証。最近の結果を補完する。
• フィードバック制御と代数的方程式が $p \geq 2$ の場合に最適加速を可能にする役割の解明。

提案手法

• 勾配 $\nabla\Phi$ およびヘッセ $\nabla^2\Phi$ に従う連続時間力学系を定式化し、フィードバック制御 $\lambda(t)$ が $(\lambda(t))^p \|\nabla\Phi(x(t))\|^{p-1} = \theta$ を満たすように定義（$\theta \in (0,1)$）。
• リャプノフ関数と $\Phi$ の正則性条件を用いて、解の存在および一意性を証明。
• 収束速度の確立：目的関数ギャップは $O(1/t^{(3p+1)/2})$、勾配ノルムの二乗は $O(1/t^{3p})$。
• 連続系の離散化により、2つのアルゴリズムフレームワークを導出：1つはモンテイロとスヴァイター（2013）の大型ステップ A-HPE フレームワークを一般化し、もう1つは新しい最適 $p$ 次テンソルアルゴリズムを生成。
• 離散アルゴリズムにおける不正確なテンソルサブルーチンの効率的実装のため、二分探索スキームを採用。
• リャプノフ関数を活用し、連続時間および離散時間における収束解析を統一的かつ簡素化。

実験結果

リサーチクエスチョン

• RQ1 制御理論的視点をどのように用いて、凸最適化における最適な高次テンソルアルゴリズムを導出し、分析できるか？
• RQ2 代数的方程式 $\lambda^p \|\nabla\Phi\|^{p-1} = \theta$ で定義されるフィードバック制御則が、$p \geq 2$ の場合に最適加速を実現する役割は何か？
• RQ3 ヘッセ駆動型減衰とフィードバック制御を有する連続時間ダイナミクスは、既知の離散アルゴリズムと同等の最適収束速度を達成できるか？
• RQ4 リャプノフ関数フレームワークは、連続時間および離散時間における収束解析を統一的に可能にする仕組みは何か？
• RQ5 ネステロフの高次手法の連続時間極限と、提案された閉ループ系との関係は何か？

主な発見

• 正則性条件のもとで、連続時間系はバナッハ不動点定理と新規のリャプノフ関数を用いて、一意な全域的解を有することが証明された。
• 目的関数ギャップは $O(1/t^{(3p+1)/2})$ の速度で収束し、勾配ノルムの二乗は $O(1/t^{3p})$ の速度で収束する。両者とも連続時間において成立。
• 連続系の離散化により、2つのアルゴリズムフレームワークが得られた：1つは大型ステップ A-HPE フレームワークを一般化し、もう1つは新しい最適 $p$ 次テンソルアルゴリズムを生成。
• 提案された離散アルゴリズムは、勾配ノルムの二乗に対して最適収束速度 $O(k^{-3p})$ を達成し、ガスニコフら（2019）、ジアンら（2019）、ブーベックら（2019）の最近の結果と一致する。
• 代数的方程式によるフィードバック制御則は、$p$ 次法における最適加速に不可欠であり、一次法では存在しない。
• この枠組みは、連続時間的視点が最適な高次アルゴリズムの導出と解析を体系的かつ簡素化する道筋を提供することを明らかにした。