[論文レビュー] Accelerating Smooth Games by Manipulating Spectral Shapes

Waïss Azizian, Damien Scieur+3 more|arXiv (Cornell University)|Jan 2, 2020

Stochastic Gradient Optimization Techniques参考文献 45被引用数 10

ひとこと要約

本稿は、行列反復理論を用いて滑らかなゲームにおける加速を特徴付けるスペクトル形状フレームワークを導入する。ヤコビアンの固有値を複素平面上のスペクトル形状としてモデル化することで、外挿勾配法やポリャクモーメンタムといった手法をスペクトル変換として再解釈し、双線形ゲームやほぼ最適レートを達成する加速型共分散最適化のための最適アルゴリズムを可能にする。

ABSTRACT

We use matrix iteration theory to characterize acceleration in smooth games. We define the spectral shape of a family of games as the set containing all eigenvalues of the Jacobians of standard gradient dynamics in the family. Shapes restricted to the real line represent well-understood classes of problems, like minimization. Shapes spanning the complex plane capture the added numerical challenges in solving smooth games. In this framework, we describe gradient-based methods, such as extragradient, as transformations on the spectral shape. Using this perspective, we propose an optimal algorithm for bilinear games. For smooth and strongly monotone operators, we identify a continuum between convex minimization, where acceleration is possible using Polyak's momentum, and the worst case where gradient descent is optimal. Finally, going beyond first-order methods, we propose an accelerated version of consensus optimization.

研究の動機と目的

• 凸最小化を超えた滑らかなゲームにおける収束速度の根本的限界を理解すること。
• 滑らかなゲームの「難易度」を複素平面上のヤコビアン固有値のスペクトル形状によって特徴付けること。
• スペクトル分布を操作することによって特定のゲーム族における加速を可能にする幾何的フレームワークを構築すること。
• スペクトル解析を用いて双線形ゲームおよび強く単調なゲームの最適な一次および二次の手法を同定すること。
• スペクトル変換を用いて、モーメンタムベースの加速を共分散最適化および外挿勾配法へと拡張すること。

提案手法

• 滑らかなゲームの族におけるヤコビアンのすべての固有値の集合としてスペクトル形状を定義する。
• 行列反復理論と漸近的収束係数を用いて、スペクトル幾何に基づく収束速度を分析する。
• 外挿勾配法とポリャクモーメンタムを、スペクトル形状上の多項式変換として再解釈する。
• グリーン関数やコンformal写像などの複素解析的手法を用いて、最適な収束バウンドを導出する。
• モーメンタムとスペクトル設計を組み合わせることで、新たな加速型共分散最適化手法を提案する。
• 楕円包含とスペクトル包含定理を用いて、収束速度の下界および上界を導出する。

実験結果

リサーチクエスチョン

• RQ1 複素スペクトルダイナミクスを示す滑らかなゲームにおいて、加速を体系的に行うことは可能か？
• RQ2 複素平面上における固有値の分布は、一次の手法における収束速度にどのように影響するか？
• RQ3 双線形ゲームにおける最適な手法は何か？ また、それはスペクトル形状の操作から導出可能か？
• RQ4 モーメンタムベースの加速は、共分散最適化のような二次の手法へと拡張可能か？
• RQ5 滑らかなゲームにおいて、スペクトル形状と収束速度の間の根本的トレードオフは何か？

主な発見

• 双線形ゲームに対して、スペクトル形状を実数直線分布に変換することで、モーメンタムベースの加速が可能となる最適なアルゴリズムが導出された。
• 双線形ゲームでは、複素固有値の摂動に対しても収束を維持する加速型外挿勾配変種が提案された。
• 漸近的収束係数がスペクトル形状によって決定されることを示し、コンformal写像を用いた正確なレートバウンディングが可能となった。
• モーメンタムを組み合わせたことで、共分散最適化においてほぼ加速されたレートが達成され、先行研究のレートを上回った。
• 下界が確立され、一般の滑らかで強く単調なゲームクラスでは加速が不可能であることが示された。
• このフレームワークにより、スペクトル形状（大きさや実部のみではない）が収束の難易度および加速の可能性を決定することが証明された。