[論文レビュー] Finite-sum Composition Optimization via Variance Reduced Gradient Descent

Xiangru Lian, Mengdi Wang+1 more|arXiv (Cornell University)|Oct 15, 2016

Stochastic Gradient Optimization Techniques参考文献 20被引用数 7

ひとこと要約

本稿では、確率的構成勾配降下法とSVRG技術を組み合わせることで、有限和の構成最適化のための2つの新しいバリアンス低減アルゴリズム、Compositional SVRG-1 および Compositional SVRG-2 を提案する。主な貢献は、強い凸問題に対して線形収束速度を達成したことであり、従来の方法の部分線形収束速度 O(K⁻⁰.⁸) より顕著に向上している。それぞれのクエリ複雑度は O((m + n + ˜κ₁⁴) log(1/ϵ)) および O((m + n + ˜κ₂³) log(1/ϵ)) である。

ABSTRACT

The stochastic composition optimization proposed recently by Wang et al. [2014] minimizes the objective with the compositional expectation form: $\min_x~(\mathbb{E}_iF_i \circ \mathbb{E}_j G_j)(x).$ It summarizes many important applications in machine learning, statistics, and finance. In this paper, we consider the finite-sum scenario for composition optimization: \[\min_x f (x) := \frac{1}{n} \sum_{i = 1}^n F_i \left(\frac{1}{m} \sum_{j = 1}^m G_j (x) ight). \] We propose two algorithms to solve this problem by combining the stochastic compositional gradient descent (SCGD) and the stochastic variance reduced gradient (SVRG) technique. A constant linear convergence rate is proved for strongly convex optimization, which substantially improves the sublinear rate $O(K^{-0.8})$ of the best known algorithm.

研究の動機と目的

• 機械学習やファイナンス分野における有限和の構成最適化の課題に取り組む。ここでの目的関数は、成分関数の経験的平均の合成で構成される。
• 既存の確率的構成勾配法の部分線形収束速度 O(K⁻⁰.⁸) を克服する。これは、標準的な確率的最適化の最適な O(K⁻¹) よりも遅い。
• 勾配の分散低減により、強い凸な有限和の構成最適化問題に対して線形収束を達成する効率的なアルゴリズムを開発する。
• 問題の条件数とデータセットサイズに有利に依存する理論的クエリ複雑度の境界を確立する。
• 一般の有限和の構成最適化に対して、初めて線形収束を達成するアルゴリズムを提供し、文献における重要なギャップを埋める。

提案手法

• 確率的構成勾配降下法（SCGD）とSVRGの分散低減技術を組み合わせ、収束の安定化と高速化を図る。
• 2つの変種、Compositional SVRG-1 および Compositional SVRG-2 を導入。両者は内側と外側の関数の勾配の取り扱い方で異なる。
• 各エポックの開始時に反復のスナップショットを用いて制御変数を計算し、確率的勾配推定の分散を低減する。
• 二段階のサンプリング戦略を採用：固定された経験的データセットから成分関数 Gi と Fj をランダムに選択して勾配を計算する。
• 構成構造 F(G(x)) を活用しつつ、低メモリ・低計算コストを維持する再帰的勾配更新ルールを適用する。
• 条件数の変種 ˜κ₁ と ˜κ₂ を用いて、期待される最適性ギャップの境界を導出し、理論的収束保証を確立する。

実験結果

リサーチクエスチョン

• RQ1 SVRGのような分散低減技術は、有限和の構成最適化設定に効果的に適応可能であり、線形収束を達成できるか？
• RQ2 強い凸な有限和の構成最適化問題に対するこのような分散低減アルゴリズムの理論的クエリ複雑度は何か？
• RQ3 条件数 ˜κ₁ と ˜κ₂ は、提案アルゴリズムの収束速度とクエリ複雑度にどのように影響するか？
• RQ4 提案アルゴリズムは、特に条件数が高い状況下でも、既存の確率的構成勾配法を上回る性能を示せるか？
• RQ5 古典的なSVRGと同等のクエリ複雑度 O((m + n + κ) log(1/ϵ)) を達成できるか、それとも条件数への高い依存は避けられないか？

主な発見

• 提案された Compositional SVRG-1 および Compositional SVRG-2 は、強い凸な有限和の構成最適化問題に対して線形収束速度を達成し、従来の方法の部分線形収束速度 O(K⁻⁰.⁸) より顕著に向上した。
• Compositional SVRG-1 のクエリ複雑度は O((m + n + ˜κ₁⁴) log(1/ϵ))、Compositional SVRG-2 は O((m + n + ˜κ₂³) log(1/ϵ)) であり、両者とも望みの精度 ϵ に対して対数的依存性を示す。
• 実験結果から、両アルゴリズムが線形収束を示し、Compositional SGD や Accelerating Compositional SGD などのベースライン手法を上回ることが示された。特に条件数が高くなると顕著に優位性を示した。
• 条件数 κcov が大きい場合には、理論的依存性が ˜κ₂³ に優れる Compositional SVRG-2 が Compositional SVRG-1 よりも優れた性能を示した。
• Mean-variance ポートフォリオ最適化などの実世界の応用においても、より少ないオракルクエリで高速収束を達成する有効性が確認された。
• 本研究は、一般の有限和の構成最適化における線形収束アルゴリズムの理論的枠組みを初めて確立し、今後の研究の新しい方向性を開いた。