[論文レビュー] A Wasserstein distance approach for concentration of empirical risk estimates

L. A. Prashanth, Sanjay P. Bhat|arXiv (Cornell University)|Feb 27, 2019

Risk and Portfolio Optimization被引用数 8

ひとこと要約

本稿は、CVaR、スペクトルリスク測度、CPT など、多様なリスク測度を含む2つの広範なクラス (T1) および (T2) における経験的リスク推定の集中境界を導出する統一的な Wasserstein 距離に基づくフレームワークを提案する。真の分布と経験的分布間の Wasserstein 距離と推定誤差を結びつけることで、正規分布型、超正規分布型、および重い尾を持つ分布に対し、よりタイトで一般化可能な境界を確立し、従来の個別ケースに依存する結果を改善する。

ABSTRACT

This paper presents a unified approach based on Wasserstein distance to derive concentration bounds for empirical estimates for two broad classes of risk measures defined in the paper. The classes of risk measures introduced include as special cases well known risk measures from the finance literature such as conditional value at risk (CVaR), optimized certainty equivalent risk, spectral risk measures, utility-based shortfall risk, cumulative prospect theory (CPT) value, rank dependent expected utility and distorted risk measures. Two estimation schemes are considered, one for each class of risk measures. One estimation scheme involves applying the risk measure to the empirical distribution function formed from a collection of i.i.d. samples of the random variable (r.v.), while the second scheme involves applying the same procedure to a truncated sample. The bounds provided apply to three popular classes of distributions, namely sub-Gaussian, sub-exponential and heavy-tailed distributions. The bounds are derived by first relating the estimation error to the Wasserstein distance between the true and empirical distributions, and then using recent concentration bounds for the latter. Previous concentration bounds are available only for specific risk measures such as CVaR and CPT-value. The bounds derived in this paper are shown to either match or improve upon previous bounds in cases where they are available. The usefulness of the bounds is illustrated through an algorithm and the corresponding regret bound for a stochastic bandit problem involving a general risk measure from each of the two classes introduced in the paper.

研究の動機と目的

• ファイナンスおよび意思決定理論で広く用いられるリスク測度の経験的リスク推定の集中境界を導出する一般化されたフレームワークの構築を目的とする。
• CVaR や CPT などのリスク測度における従来の個別ケースに依存する境界を、Wasserstein 距離を用いた一様な理論的アプローチに統合することを目的とする。
• 従来の境界が限界的または最適でない重い尾を持つ分布および超正規分布に対して、集中結果を拡張することを目的とする。
• 切り捨てられた経験的分布を用いて、RDEU やスペクトルリスク測度などの新たな推定器を提供することを目的とする。
• 境界がリスク感受性のレジストリミネーションを伴う確率的バンディット設定においてどのように有用であるかを示すこと

提案手法

• 本手法は、独立同一分布に従う標本から得られる真の累積分布関数（CDF）と経験的 CDF 間の Wasserstein 距離と、リスク測度の推定誤差を関連付ける。
• 近年の真の分布と経験的分布間の Wasserstein 距離の集中境界を活用し、リスク測度推定器の尾部境界を導出する。
• 2種類の異なる推定方式を導入する：(T1) リスク測度（例：CVaR、SRM、UBSR）に対しては全経験的 CDF を使用する方式、(T2) リスク測度（例：CPT、RDEU、DRM）に対しては切り捨てられた経験的 CDF を使用する方式。
• Wasserstein 距離における連続性の性質に基づいてリスク測度を分類し、多様なリスク測度を一様に取り扱うことが可能になる。
• 正規分布型、超正規分布型、および高次モーメント条件を満たす重い尾を持つ分布の3つの分布クラスに対して、理論的境界を導出する。
• 新規のリスク感受性アルゴリズムを用いて、各クラスに属する一般リスク測度を含む確率的バンディット問題において、レジスト境界を導出する。

実験結果

リサーチクエスチョン

• RQ1 多様なリスク測度に対して、個別に処理するのではなく、一様な理論的フレームワークを構築できるか？
• RQ2 真の CDF と経験的 CDF 間の Wasserstein 距離は、リスク測度の推定誤差とどのように関係するか？
• RQ3 正規分布型および重い尾を持つ分布において、CVaR や CPT などのリスク測度に対して、よりタイトで一般性の高い集中境界を導出できるか？
• RQ4 リスク測度が不連続的またはリプシッツ連続でない場合、経験的分布の切り捨てが推定精度に与える影響は何か？
• RQ5 導出された境界をどのようにして、保証されたレジストを備えたリスク感受性バンディットアルゴリズムの設計および解析に応用できるか？

主な発見

• 正規分布型分布における CVaR に対して、本稿は $O\left(\exp\left(-cn\epsilon^{2}\right)\right)$ のオーダーの尾部境界を導出しており、有界なサポートを持つ場合の境界と一致し、$\epsilon$ への依存性が従来の研究を改善している。
• 提案された CVaR の境界は、Kolla 他 (2019) が課す最小成長仮定を必要としないため、より広範な正規分布型分布のクラスに適用可能である。
• CPT および RDEU に対しては、推定方式における切り捨てられた経験的分布の使用により、一貫性があり集中境界が保証される新たな推定器が得られる。
• 正規分布型、超正規分布型、重い尾を持つ分布の3つのクラスすべてにおいて、CVaR や CPT 値といった特定リスク測度について、既存の結果と同等またはより良い境界をフレームワークが得ている。
• 確率的バンディット設定において、導出された境界により、$O\left(n^{1 - \alpha \min\{1/2, 1 - \alpha\}}\right)$ のオーダーのレジスト境界が得られ、これはギャップ $\Delta_i$ に逆比例する依存性を示さないため、従来の研究における逆ギャップ依存性を改善している。
• レジスト境界はホルダーの不等式と、Wasserstein 濃度結果の新規応用を用いて導出されており、理論的フレームワークの実用的有用性を示している。