[論文レビュー] Large-Scale Methods for Distributionally Robust Optimization

Daniel Lévy, Yair Carmon+2 more|arXiv (Cornell University)|Oct 12, 2020

Risk and Portfolio Optimization参考文献 60被引用数 37

ひとこと要約

この論文は、CVaRおよび chi-squared 不確かさ集合を用いた分布に対するロバスト最適化（DRO）をスケーラブルにする確率的勾配法を開発し、トレーニング規模とパラメータ数に依存しない勾配評価計算量を達成し、効率改善のための multi-level Monte Carlo gradient estimators を導入する。

ABSTRACT

We propose and analyze algorithms for distributionally robust optimization of convex losses with conditional value at risk (CVaR) and $χ^2$ divergence uncertainty sets. We prove that our algorithms require a number of gradient evaluations independent of training set size and number of parameters, making them suitable for large-scale applications. For $χ^2$ uncertainty sets these are the first such guarantees in the literature, and for CVaR our guarantees scale linearly in the uncertainty level rather than quadratically as in previous work. We also provide lower bounds proving the worst-case optimality of our algorithms for CVaR and a penalized version of the $χ^2$ problem. Our primary technical contributions are novel bounds on the bias of batch robust risk estimation and the variance of a multilevel Monte Carlo gradient estimator due to [Blanchet & Glynn, 2015]. Experiments on MNIST and ImageNet confirm the theoretical scaling of our algorithms, which are 9--36 times more efficient than full-batch methods.

研究の動機と目的

• 機械学習および高リスク決定設定におけるスケーラブルな distributionally robust optimization（DRO）の必要性に対処する。
• NまたはdにスケールしないCVaRおよび chi-squared（ペナルティ付きを含む）不確かさ集合の勾配ベースアルゴリズムを開発する。
• 勾配推定量のバイアスと分散に関する理論的保証を提供し、最適な複雑さ境界を確立する。
• MNISTやImageNetのような大規模データセットで full-batch 手法に対する実用的改善を示す。

提案手法

• CVaRおよび chi-squared 発散（制約付きおよびペナルティ付きの variantes）に対する DRO 目的を定式化する。
• surrogate objective のバイアス境界と勾配の分散境界を持つミニバッチベースの勾配推定を用いる。
• 分散境界を活用して Nesterov 加速を適用し収束を改善する。
• MLMC（multi-level Monte Carlo）勾配推定器を導入し、ミニバッチサイズの対数的サンプル複雑さで偏りのない勾配推定を得る。
• 対話可能な最適化と複雑さ分析を可能にするデュアルおよびプライマル-デュアル形式を提供する。

実験結果

リサーチクエスチョン

• RQ1 CVaRおよび chi-squared 不確かさ集合を用いた DRO 目的を、トレーニングセットサイズ N やパラメータ数 d に依存しない勾配評価で最適化できるか。
• RQ2 これらの DRO 目的に対するミニバッチおよび MLMC 勾配推定のバイアスおよび分散特性はどうなるか。
• RQ3 CVaRおよび chi-squared 目的の下で ε-最適解を得るためのオラクル複雑さの率はどうなるか。
• RQ4 提案手法は実際に大規模データセット（例：MNIST、ImageNet）にスケールし、full-batch 法よりも優れているか。

主な発見

• 提案された勾配法は CVaR および chi-squared DRO 目的に対して、勾配評価計算量を N および d に依存させないことを達成した。
• ミニバッチ推定のバイアス境界を確立：CVaR で O(1/√n)、chi-squared ペナルティ付き目的で O(1/n)、および Lipschitz 逆CDF 仮定の下で O(1/n)。
• chi-squared 有界目的に対するミニバッチ勾配推定の分散が O(1/n) へ低下することを示し、効率的な最適化を実現。
• MLMC 勾配推定はサンプル要件を対数的に抑えた偏りのない勾配推定を提供し、素朴なミニバッチ推定より効率を改善する。
• MNIST/ImageNet における実証結果は、full-batch 法と比較して 9–36 倍の勾配評価回数を削減しつつ、堅牢性を維持または向上させる。