[論文レビュー] Large Deviations of Vector-valued Martingales in 2-Smooth Normed Spaces

Anatoli Juditsky, Arkadii S. Nemirovski|arXiv (Cornell University)|Sep 4, 2008

Risk and Portfolio Optimization参考文献 11被引用数 46

ひとこと要約

本稿は、2-滑らかさを持つノルムを備えた有限次元ノルム空間におけるベクトル値マルチングレイドの次元に依存しない大偏差境界を確立する。$\kappa$-正則性という概念を導入し、その際、ノルムの二乗がリプシッツ連続な勾配を持つ微分可能な関数でよく近似可能であると仮定することで、$\theta$ が次元に依存しない形で、$\text{Prob}(\|\sum \xi_i\| > \theta + \gamma) \leq O(1)\exp\{-O(1)\gamma^\alpha\}$ の形の指数的尾部境界を証明する。

ABSTRACT

We derive exponential bounds on probabilities of large deviations for "light tail" martingales taking values in finite-dimensional normed spaces. Our primary emphasis is on the case where the bounds are dimension-independent or nearly so. We demonstrate that this is the case when the norm on the space can be approximated, within an absolute constant factor, by a norm which is differentiable on the unit sphere with a Lipschitz continuous gradient. We also present various examples of spaces possessing the latter property.

研究の動機と目的

• 有限次元ノルム空間におけるベクトル値マルチングレイドのノルムに関する鋭い、次元に依存しない指数的尾部境界を確立すること。
• スカラー値マルチングレイドのための大偏差境界が、次元に依存する膨張を伴わずに、ベクトル値設定へと拡張可能となる条件を同定すること。
• $\theta$ が次元に依存しない形で適度な値をとるような境界が成り立つための十分条件として、$\kappa$-正則性の概念を導入し、その特徴づけを行うこと。
• 行列値マルチングレイドや他の非ユークリッド的設定へも適用可能な一般枠組みを提供すること。

提案手法

• ノルム $\|\cdot\|$ が $\kappa$-正則であるとは、そのノルムが、単位球面上でリプシッツ連続な勾配を持つ $\kappa_+$-滑らかなノルム $\|\cdot\|_+$ に対して、定数倍の範囲内で局所的に近似可能であると定義する。
• 測度の変更によるアプローチを用い、凸関数 $\psi_n$ を用いたモーメント生成関数の制御により、マルチングレイドの増分を $\sigma_n^2$ の観点から制御する。
• 変換されたマルチングレイド増分に対して、精密化されたアズマ＝フーディング不等式を適用し、部分ガウス型または部分ワイブル型の尾部仮定を活用する。
• パrameter $\beta$ における最適化を通じて一般化された大偏差境界を導出し、次元に依存しない尾部減衰率を達成する。
• 双対ノルム構造と滑らかさモジュラス解析を用いて、$\ell_p^n$ やシュタイン $p$-ノルム空間といった重要な空間で $\kappa$-正則性条件が満たされることを保証する。
• 軽尾仮定の下で、条件付きモーメントの境界と指数的モーメント制御に依存する証明戦略により、境界の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 ノルム空間にどのような条件下で、ベクトル値マルチングレイドのための大偏差境界を次元に依存しない形にできるか。
• RQ2 ノルムの二乗関数の滑らかさが、ベクトル値マルチングレイドの集中にどのように影響するか。
• RQ3 特定のノルムクラスに対して、偏差境界における定数 $\theta$ を次元 $n$ に依存させずに維持できるか。
• RQ4 $\kappa$-正則性が、ベクトルマルチングレイドのガウス型またはワイブル型の尾部挙動を保証する役割を果たすか。
• RQ5 古典的空間（例：$\ell_p^n$、行列シュタイン空間）のうち、どの空間が適度な $\kappa$ をもって $\kappa$-正則性条件を満たすか。

主な発見

• 本稿は、ノルム空間が $\kappa$-正則であるならば、$\theta$ が次元 $n$ に依存せず、$\text{Prob}(\|\sum \xi_i\| > \theta + \gamma) \leq O(1)\exp\{-O(1)\gamma^\alpha\}$ の形の大偏差境界が成り立つことを確立する。
• $p \in [2, \infty]$ の $\ell_p^n$ 空間では、$\kappa = O(1)\min(p, \ln(n+1))$ とすることで $\kappa$-正則性が成立し、次元に依存するが適度な $\theta$ を得られる。
• $m \times n$ 行列のシュタイン $p$-ノルム（$p \in [2, \infty]$）では、$\kappa = O(1)\min(p, \ln(m+1), \ln(n+1))$ とすることで $\kappa$-正則性が成立し、再び適度な $\theta$ を得られる。
• ノルムが $\kappa$-正則で $\kappa = O(1)$ である場合、境界は次元に依存せず成立する。例として $\ell_2^n$ やヒルベルト＝シュミット行列がこれに該当する。
• 軽尾増分の下で、$\alpha \in [1,2]$ の範囲で $\gamma^\alpha$ の指数的尾部減衰率が達成され、スカラーの場合と同様の挙動を示す。
• 証明は、新規の凸共役関数の使用とモーメント生成関数の制御に依存しており、次元に依存する集中不等式を回避している。