[논문 리뷰] A Wasserstein distance approach for concentration of empirical risk estimates

L. A. Prashanth, Sanjay P. Bhat|arXiv (Cornell University)|2019. 02. 27.

Risk and Portfolio Optimization인용 수 8

한 줄 요약

이 논문은 CVaR, 스펙트럴 리스크 측정, CPT 등 다양한 리스크 측정 방법을 포함하는 두 가지 광범위한 리스크 측정 클래스—(T1) 및 (T2)—에 대해, 통합된 워샤르스타인 거리 기반 프레임워크를 제안한다. 진짜 분포와 표본 분포 간의 워샤르스타인 거리와 추정 오차를 연결함으로써, 서브가우시안, 서브지수, 그리고 꼬리가 두꺼운 분포에 대해 더 날카롭고 일반화 가능한 경계를 확립한다. 이는 이전의 사례별 결과보다 향상된 것이다.

ABSTRACT

This paper presents a unified approach based on Wasserstein distance to derive concentration bounds for empirical estimates for two broad classes of risk measures defined in the paper. The classes of risk measures introduced include as special cases well known risk measures from the finance literature such as conditional value at risk (CVaR), optimized certainty equivalent risk, spectral risk measures, utility-based shortfall risk, cumulative prospect theory (CPT) value, rank dependent expected utility and distorted risk measures. Two estimation schemes are considered, one for each class of risk measures. One estimation scheme involves applying the risk measure to the empirical distribution function formed from a collection of i.i.d. samples of the random variable (r.v.), while the second scheme involves applying the same procedure to a truncated sample. The bounds provided apply to three popular classes of distributions, namely sub-Gaussian, sub-exponential and heavy-tailed distributions. The bounds are derived by first relating the estimation error to the Wasserstein distance between the true and empirical distributions, and then using recent concentration bounds for the latter. Previous concentration bounds are available only for specific risk measures such as CVaR and CPT-value. The bounds derived in this paper are shown to either match or improve upon previous bounds in cases where they are available. The usefulness of the bounds is illustrated through an algorithm and the corresponding regret bound for a stochastic bandit problem involving a general risk measure from each of the two classes introduced in the paper.

연구 동기 및 목표

• 금융 및 의사결정 이론에서 널리 사용되는 리스크 측정 방법의 표본 리스크 추정에 대한 농도 경계를 유도하기 위한 일반적 프레임워크를 개발하는 것.
• CVaR 및 CPT와 같은 리스크 측정 방법에 대한 기존의 사례별 경계를 워샤르스타인 거리 기반 단일 이론적 접근으로 통합하는 것.
• 이전 경계가 제한되거나 최적화되지 않은 서브지수 및 꼬리가 두꺼운 분포로까지 농도 결과를 확장하는 것.
• 절단된 표본 분포를 사용하여 RDEU 및 스펙트럴 리스크 측정과 같은 리스크 측정 방법을 위한 새로운 추정자들을 제공하는 것.
• 유도된 경계가 리스크 민감한 손실 최소화를 위한 스토하스틱 밴딧 설정에서의 유용성을 입증하는 것.

제안 방법

• 이 방법은 진짜 누적분포함수(CDF)와 i.i.d. 표본에서 유도된 표본 CDF 사이의 워샤르스타인 거리와 리스크 측정의 추정 오차를 연결한다.
• 최근에 제안된 진짜 분포와 표본 분포 간의 워샤르스타인 거리에 대한 농도 경계를 활용하여, 리스크 측정 추정자의 尾 꼬리 경계를 유도한다.
• 두 가지 별개의 추정 전략이 제안된다: (T1) 리스크 측정 방법(예: CVaR, SRM, UBSR)에 대해서는 전체 표본 CDF를 사용하고, (T2) 리스크 측정 방법(예: CPT, RDEU, DRM)에 대해서는 절단된 표본 CDF를 사용한다.
• 이 프레임워크는 워샤르스타인 거리에서의 연속성 특성에 따라 리스크 측정 방법을 분류하여 다양한 리스크 측정 방법에 대한 통합적 처리를 가능하게 한다.
• 서브가우시안, 서브지수, 그리고 고차모멘트 조건을 만족하는 꼬리가 두꺼운 분포의 세 가지 분포 유형에 대해 이론적 경계를 도출한다.
• 이 방법은 각 유형의 일반 리스크 측정 방법을 포함하는 스토하스틱 밴딧 문제에 적용되어, 새로운 리스크 민감한 알고리즘을 사용한 손실 경계를 도출한다.

실험 결과

연구 질문

• RQ1 다양한 리스크 측정 방법에 대해 각각 별도로 다루는 대신, 단일 이론적 프레임워크를 개발하여 농도 경계를 도출할 수 있는가?
• RQ2 진짜 CDF와 표본 CDF 사이의 워샤르스타인 거리가 리스크 측정의 추정 오차와 어떻게 관련이 있는가?
• RQ3 서브가우시안 및 꼬리가 두꺼운 분포에서 CVaR 및 CPT와 같은 리스크 측정 방법에 대해 더 날카롭고 일반화 가능한 농도 경계를 도출할 수 있는가?
• RQ4 표본 분포의 절단이 연속적이거나 리프시츠 조건을 만족하지 않는 행동을 보이는 리스크 측정 방법의 추정 정확도에 어떤 영향을 미치는가?
• RQ5 유도된 경계를 사용하여 증명 가능한 손실 보장이 있는 리스크 민감한 밴딧 알고리즘을 설계하고 분석할 수 있는가?

주요 결과

• 서브가우시안 분포 하에서 CVaR에 대해 논문은 $O\left(\exp\left(-cn\epsilon^{2}\right)\right)$ 정도의 尾 꼬리 경계를 도출하였으며, 이는 지지역이 유한한 경우의 경계와 일치하고, 이전 연구 대비 $\epsilon$에 대한 의존도를 개선한다.
• 제안된 CVaR 경계는 Kolla 등(2019)에서 요구한 최소 성장 조건을 필요로 하지 않아, 더 넓은 서브가우시안 분포의 범주에 적용 가능하다.
• CPT 및 RDEU에 대해 추정 전략에서 절단된 표본 분포를 사용함으로써, 일관성과 농도 경계를 보장하는 새로운 추정자들이 도출되었다.
• 세 가지 분포 유형 전반에서 기존 결과와 비교해 볼 때, 특히 CVaR 및 CPT-값에 대해 개선되거나 동일한 경계를 도출하였다.
• 스토하스틱 밴딧 설정에서 유도된 경계는 $O\left(n^{1 - \alpha \min\{1/2, 1 - \alpha\}}\right)$ 정도의 손실 경계를 도출하였으며, 이는 이전 연구에서 관찰된 갭 $\Delta_i$ 의 역수 비례에 비해 더 나은 성능을 보인다.
• 손실 경계는 허더의 부등식과 워샤르스타인 농도 결과의 새로운 응용을 통해 도출되었으며, 이는 이론적 프레임워크의 실용적 유용성을 입증한다.