[論文レビュー] Non-convex Distributionally Robust Optimization: Non-asymptotic Analysis

Jikai Jin, Bohang Zhang+2 more|arXiv (Cornell University)|Oct 24, 2021

Sparse and Compressive Sensing Techniques参考文献 33被引用数 4

ひとこと要約

本稿は、一般の滑らかな非凸損失関数に対して、非漸近的収束保証を備えた非凸分布ロバスト最適化（DRO）フレームワークを提案する。ペナルティ付きDRO目的関数にミニバッチ正規化勾配降下法とモーメンタムを適用することで、有界でない勾配ノイズおよび非凸性の下でも、$\mathcal{O}(\epsilon^{-4})$ の勾配複雑度で $\epsilon$-一次静止点を達成する。

ABSTRACT

Distributionally robust optimization (DRO) is a widely-used approach to learn models that are robust against distribution shift. Compared with the standard optimization setting, the objective function in DRO is more difficult to optimize, and most of the existing theoretical results make strong assumptions on the loss function. In this work we bridge the gap by studying DRO algorithms for general smooth non-convex losses. By carefully exploiting the specific form of the DRO objective, we are able to provide non-asymptotic convergence guarantees even though the objective function is possibly non-convex, non-smooth and has unbounded gradient noise. In particular, we prove that a special algorithm called the mini-batch normalized gradient descent with momentum, can find an $ε$ first-order stationary point within $O( ε^{-4} )$ gradient complexity. We also discuss the conditional value-at-risk (CVaR) setting, where we propose a penalized DRO objective based on a smoothed version of the CVaR that allows us to obtain a similar convergence guarantee. We finally verify our theoretical results in a number of tasks and find that the proposed algorithm can consistently achieve prominent acceleration.

研究の動機と目的

• 非凸で滑らかな損失関数、かつ有界でない勾配ノイズを伴うDROの理論的理解のギャップを埋めること。
• 一般の $\psi$-ダイバージェンス不確実性集合の下でDROアルゴリズムに非漸近的収束保証を提供すること。
• 非凸性とDRO最適化における有界でない確率的勾配分散の課題に対処すること。
• 滑らかなDRO定式化を用いて、条件付きリスク価値（CVaR）設定への収束解析を拡張すること。

提案手法

• 分布的不確実性に対処するため、$\psi$-ダイバージェンスを用いたペナルティ付きDRO目的関数を提案する。
• 非凸設定における非漸近的解析を可能にするために、CVaRの滑らか化版を導入する。
• 訓練の安定化と収束の向上を図るため、ミニバッチ正規化勾配降下法とモーメンタムを採用する。
• DRO目的関数における一般化された滑らかさ条件を活用し、勾配分散を制限する。
• 凸共役 $\psi^*$ を用いた双対定式化により、勾配の境界と滑らかさの性質を導出する。
• 真の勾配ノルムを用いて、確率的勾配の分散をバインドすることで収束を確立する。

実験結果

リサーチクエスチョン

• RQ1 一般の滑らかな非凸損失関数および有界でない勾配ノイズを伴うDROに対して、非漸近的収束を確立できるか？
• RQ2 提案された正規化されたSGDとモーメンタムは、非凸DROにおける $\epsilon$-静止点を求めるために、保証可能な勾配複雑度を達成するか？
• RQ3 条件付きリスク価値（CVaR）DRO定式化は滑らか化可能であり、非漸近的解析を可能にするか？
• RQ4 提案されたアルゴリズムの勾配複雑度は、$\epsilon$、$\lambda$、$\alpha$、および問題パラメータに関してどのように表されるか？
• RQ5 本手法は、不均衡なデータおよびロバストな分類タスクにおいて、実験的にどのように性能を発揮するか？

主な発見

• 提案されたミニバッチ正規化勾配降下法とモーメンタムは、非凸DROにおいて $\epsilon$-一次静止点を達成するための $\mathcal{O}(\epsilon^{-4})$ の勾配複雑度を達成する。
• DRO目的関数は一般化された滑らかさ条件を満たしており、非凸性および非滑らかさの下でも収束解析が可能である。
• 滑らかなCVaR定式化において、勾配複雑度は $\mathcal{O}(\alpha^{-3}\lambda^{-1}G^{2}(G^{2}+\lambda L)\Delta\epsilon^{-4})$ である。ここで $\Delta$ は初期の最適性ギャップを表す。
• 不均衡なCIFAR-10における実験結果では、一貫した加速が観察され、滑らかなCVaRは最も成績が悪いクラスで90.2％のテスト精度を達成した。
• 標準的なSGDやベースラインDRO手法よりも優れた性能を示し、特にマイノリティクラスにおいて、分布シフト下でもロバストであることが実証された。
• 理論的解析により、勾配分散が真の勾配ノルムによってバインドされることを確認し、有界でないノイズ下でも安定した最適化が可能であることが示された。