[論文レビュー] Inexact Relative Smoothness and Strong Convexity for Optimization and Variational Inequalities by Inexact Model

Fedor Stonyakin, Alexander Tyurin+7 more|arXiv (Cornell University)|Jan 1, 2020

Sparse and Compressive Sensing Techniques参考文献 80被引用数 14

ひとこと要約

本稿は、一階最適化および変分不等式のための統一的かつ不正確なモデルフレームワークを導入し、相対的滑らかさと強い凸性を一般化することで、滑らかさに関する事前知識がなくても適応的かつ普遍的な手法を可能にし、最適収束速度を達成する。このフレームワークは滑らかでない問題に対しても適用可能であり、新たなアルゴリズムとして、滑らかさに関する事前知識が不要な普遍的条件付き勾配法および変分不等式のための普遍的ミラー・プロックス法を提供する。強単調性のもとでは線形収束を達成する。

ABSTRACT

In this paper, we propose a general algorithmic framework for first-order methods in optimization in a broad sense, including minimization problems, saddle-point problems, and variational inequalities. This framework allows obtaining many known methods as a special case, the list including accelerated gradient method, composite optimization methods, level-set methods, Bregman proximal methods. The idea of the framework is based on constructing an inexact model of the main problem component, i.e. objective function in optimization or operator in variational inequalities. Besides reproducing known results, our framework allows constructing new methods, which we illustrate by constructing a universal conditional gradient method and a universal method for variational inequalities with a composite structure. This method works for smooth and non-smooth problems with optimal complexity without a priori knowledge of the problem's smoothness. As a particular case of our general framework, we introduce relative smoothness for operators and propose an algorithm for variational inequalities (VIs) with such operators. We also generalize our framework for relatively strongly convex objectives and strongly monotone variational inequalities. This paper is an extended and updated version of [arXiv:1902.00990]. In particular, we add an extension of relative strong convexity for optimization and variational inequalities.

研究の動機と目的

• 一階最適化および変分不等式における既知の最適化手法を、単一の不正確モデルフレームワークで統一・一般化すること。
• 滑らかさや強い凸性に関する事前知識がなくても、最適な複雑度を達成する、パラメータフリーの適応的手法を可能にすること。
• 相対的滑らかさおよび強い凸性の枠組みを、変分不等式およびサドルポイント問題へ一般化すること。
• 滑らかさや強い凸性に関する事前知識がなくても、最適収束を達成する、新たなアルゴリズム（例えば、普遍的条件付き勾配法や再起動付きミラー・プロックスの変種）を構築すること。
• 補助最小化ステップにおける不正確性が収束に与える影響を分析し、収束保証を強固にすること。

提案手法

• 目的関数の一般的不正確モデルとして、補助関数 ψδ(x, y) とブレグマン発散を用い、古典的モデルおよび相対的滑らかさを一般化する。
• 変分不等式のための (δ, L, µ, V)-モデルフレームワークを導入し、作用素モデルにおける不正確性を許容することで、適応的かつ加速的なスキームを可能にする。
• 強単調な変分不等式のための再起動付きミラー・プロックスアルゴリズムを提案し、反復回数が O((LΩ)/µ) log(R₀²/ε) でスケーリングされる線形収束を達成する。
• 高速勾配法と不正確な射影を組み合わせることで、フレームワークを応用し、普遍的条件付き勾配法を導出する。
• 再起動技術とモデルの強い凸性を用いて、µ-強い凸性のもとで線形レートへの収束を加速する。
• 帰納法と双対性の議論を用いて収束レートを確立し、ブレグマン発散およびプロキシマル設定の性質を活用する。

実験結果

リサーチクエスチョン

• RQ1 単一の不正確モデルフレームワークが、勾配法、条件付き勾配法、プロキシマル法といった既知の一階最適化手法を統一できるか？
• RQ2 相対的滑らかさおよび強い凸性は、変分不等式およびサドルポイント問題へどのように一般化できるか？
• RQ3 滑らかさや強い凸性に関する事前知識がなくても、最適収束を達成する普遍的（適応的）手法を変分不等式に対して構築できるか？
• RQ4 モデルおよび補助最小化における不正確性が収束レートに与える影響は何か？
• RQ5 このフレームワークは、ブロック座標降下法および高確率保証付きの確率的最適化へ拡張可能か？

主な発見

• 提案された不正確モデルフレームワークは、古典的勾配法、相対的滑らかさ、ブレグマンプロキシマル法を特別なケースとして含む。
• 滑らかさに関する調整パラメータが不要な普遍的条件付き勾配法を構築し、滑らかな問題では最適な O(1/N²) の収束速度、非滑らかな問題では O(1/N) の収束速度を達成する。
• 強単調な変分不等式では、再起動付きミラー・プロックスアルゴリズムが、反復複雑度 O((LΩ)/μ) log(R₀²/ε) で線形収束を達成し、既知の下界と一致する。
• モデルの m-強い凸性のもとでは、収束レートが ∥xₚ − x∗∥² ≤ R₀²·2⁻ᵖ + 2δ/(m+μ) + 4ẽδ/(m+μ) に改善され、反復回数は O((LΩ)/(m+μ)) log(R₀²/ε) となる。
• 確率的およびブロック座標拡張が可能であり、サブガウスノイズ仮定のもとで高確率収束レートが O(LR²/N² + δ′₁/√N + N⁻¹δ′₂) となる。
• 解析により、補助最小化における不正確性に対しても収束がロバストであることが確認され、最終反復ギャップにおける誤差項は δ および ẽδ で有界である。