[論文レビュー] Statistical Learning with Conditional Value at Risk

Tasuku Soma, Yuichi Yoshida|arXiv (Cornell University)|Feb 14, 2020

Statistical Methods and Inference参考文献 21被引用数 22

ひとこと要約

本稿では、i.i.d. データサンプルのみを用いて、元の分布への直接的アクセスを必要とせずに、損失の条件付きリスク価値（CVaR）を最適化するリスク回避型統計学的学習フレームワークを提案する。凸リプシッツ損失関数に対しては O(1/√n) 収束を確立し、非凸滑らか損失関数に対しては一般化バウンドを導出。実験により、提案された CVaR-SGD アルゴリズムが平均性能を維持しつつも、極端な損失を効果的に低減できることを示している。

ABSTRACT

We propose a risk-averse statistical learning framework wherein the performance of a learning algorithm is evaluated by the conditional value-at-risk (CVaR) of losses rather than the expected loss. We devise algorithms based on stochastic gradient descent for this framework. While existing studies of CVaR optimization require direct access to the underlying distribution, our algorithms make a weaker assumption that only i.i.d.\ samples are given. For convex and Lipschitz loss functions, we show that our algorithm has $O(1/\sqrt{n})$-convergence to the optimal CVaR, where $n$ is the number of samples. For nonconvex and smooth loss functions, we show a generalization bound on CVaR. By conducting numerical experiments on various machine learning tasks, we demonstrate that our algorithms effectively minimize CVaR compared with other baseline algorithms.

研究の動機と目的

• 期待損失の代わりに CVaR を用いてモデルの性能を評価する統計的学習フレームワークの開発。リスク回避型意思決定を可能にする。
• 統計的学習において現実的でない場合が多い、元の分布への明示的アクセスを要する従来の CVaR 最適化手法のギャップを埋める。
• 特に非凸かつ滑らかな損失関数に対して、i.i.d. サンプリング下での CVaR 最適化の一般化バウンドを確立する。
• 実用的な機械学習タスクにおいて効果的に CVaR を最小化できる stochastic gradient descent アルゴリズムの設計と実証的検証。

提案手法

• CVaR 最適化を、損失の最悪の α 分位数に焦点を当てた最適化問題として定式化。リスク指標として条件付きリスク価値（CVaR）を用いる。
• 元の分布へのアクセスを必要とせず、i.i.d. サンプル上で動作する、新規の SGD に基づくアルゴリズム（CVaR-SGD）を導入。
• 非凸滑らか損失関数に対しては、CVaR 最適化を、補助損失関数 f(w, τ) = [ℓ(w;z) − τ]+ / α の期待値を最小化する問題に還元。
• 微分可能で安定した最適化を可能にするために、パラメータ ε を用いた CVaR 目的関数の滑らか化近似を採用。
• 訓練の安定化と一般化性能の向上のため、重み減衰と検証データ上でのハイパーパramータチューニングを適用。
• ミニバッチベースの勾配更新を採用。CVaR-on-Minibatch の場合、各ミニバッチ内で上位 α 分位数の損失を用いて勾配を計算。

実験結果

リサーチクエスチョン

• RQ1 元の分布への直接的アクセスがなくても、i.i.d. サンプルのみを用いて CVaR 基盤の最適化を効果的に行うことができるか？
• RQ2 凸かつリプシッツ損失関数の設定下で、CVaR 最適化の SGD の収束速度はどの程度達成可能か？
• RQ3 損失関数が非凸かつ滑らかである場合、i.i.d. サンプリング下での CVaR 最適化に対して一般化バウンドを確立できるか？
• RQ4 CVaR を最小化することは、平均性能を維持しつつも、分類および回帰タスクにおける最悪ケース例の性能を向上させるか？

主な発見

• 凸かつ G-リプシッツ損失関数に対して、提案された CVaR-SGD アルゴリズムは、サンプル数 n に対して O(1/√n) の収束レートを達成し、最適 CVaR に収束する。
• 非凸かつ滑らかな損失関数に対しては、期待値において一般化誤差バウンドが O(Gβ^{1/2}/n^{1/4} + G^{4/3}/n^{1/6}) に達する。
• MNIST および scikit-learn データセットを用いた数値実験において、CVaR-SGD は Vanilla-SGD や CVaR-on-Minibatch よりも顕著に低い CVaR 値を達成しており、特に最悪の α 分位数の例において顕著に優れた性能を示した。
• 平均損失を最適化していないにもかかわらず、分類タスクにおいて標準的な SGD と同等またはより優れた平均損失および正答率を達成した。
• 上位 α 分位数の損失（例：α=0.05 または 0.1）は、CVaR-SGD の下で、ベースライン手法と比較して一貫して低く抑えられ、最悪リスクの効果的低減が確認された。
• 結果から、医療、金融、ロボット工学など、稀だが深刻な失敗を回避する必要がある実世界の応用分野において、CVaR 基盤学習がロバスト性を向上させられると示唆された。