[論文レビュー] From Halfspace M-depth to Multiple-output Expectile Regression

Abdelaati Daouia, Davy Paindaveine|arXiv (Cornell University)|May 29, 2019

Advanced Statistical Methods and Models参考文献 48被引用数 4

ひとこと要約

本稿では、超平面値をとる多次元M-quantileと、標準的分位数外れ度をM-quantile外れ度に置き換えたことで、Tukeyの半空間深度を一般化する新しい統計的深度、半空間M深度を導入する。この手法により、複数出力の期待値回帰が可能となり、期待値深度はTukey深度よりも滑らかで、より優れた単調性を示す。また、多次元期待値はリスク測度の公理的性質を満たし、計算と回帰モデリングの両面で効率的である。

ABSTRACT

Despite the renewed interest in the Newey and Powell (1987) concept of expectiles in fields such as econometrics, risk management, and extreme value theory, expectile regression---or, more generally, M-quantile regression---unfortunately remains limited to single-output problems. To improve on this, we introduce hyperplane-valued multivariate M-quantiles that show strong advantages, for instance in terms of equivariance, over the various point-valued multivariate M-quantiles available in the literature. Like their competitors, our multivariate M-quantiles are directional in nature and provide centrality regions when all directions are considered. These regions define a new statistical depth, the halfspace M-depth, whose deepest point, in the expectile case, is the mean vector. Remarkably, the halfspace M-depth can alternatively be obtained by substituting, in the celebrated Tukey (1975) halfspace depth, M-quantile outlyingness for standard quantile outlyingness, which supports a posteriori the claim that our multivariate M-quantile concept is the natural one. We investigate thoroughly the properties of the proposed multivariate M-quantiles, of halfspace M-depth, and of the corresponding regions. Since our original motivation was to define multiple-output expectile regression methods, we further focus on the expectile case. We show in particular that expectile depth is smoother than the Tukey depth and enjoys interesting monotonicity properties that are extremely promising for computational purposes. Unlike their quantile analogs, the proposed multivariate expectiles also satisfy the coherency axioms of multivariate risk measures. Finally, we show that our multivariate expectiles indeed allow performing multiple-output expectile regression, which is illustrated on simulated and real data.

研究の動機と目的

• 経済学およびリスク管理分野における期待値回帰の単一出力問題への制限を解消すること。
• 同変性や一貫性といった望ましい性質を保ちながら、M-quantile回帰の多次元拡張を開発すること。
• M-quantile外れ度を用いて標準的分位数外れ度を置き換えることで、Tukey深度を一般化する新しい統計的深度、半空間M深度を提案すること。
• 超平面値をとる多次元期待値を定義することで、複数出力の期待値回帰を可能とすること。
• 期待値深度がTukey深度よりも計算的・理論的に優れている点、特に滑らかさと単調性の観点から、最適化に有利であることを示すこと。

提案手法

• 非対称2次損失（L2）を用いて、一変量M-quantileの方向的拡張として、超平面値をとる多次元M-quantileを定義する。
• Tukeyの半空間深度フレームワークにおいて、標準的分位数外れ度の代わりにM-quantile外れ度を用いることで、半空間M深度を構築する。
• 半空間M深度の最も深い点が、期待値の場合に平均ベクトルに一致することを示す。
• 期待値深度がTukey深度よりも滑らかで、最適化や計算に有益な単調性を示すことを証明する。
• 多次元期待値がリスク測度理論における一貫性公理を満たすことを導出し、検証する。
• 提案された多次元期待値を用いて、シミュレートおよび実データで検証された複数出力の期待値回帰を実装する。

実験結果

リサーチクエスチョン

• RQ1 M-quantile回帰を同変性および一貫性を保ちつつ、多次元応答に拡張できるか？
• RQ2 半空間M深度は、滑らかさおよび計算の容易さという点で、Tukey深度と比べてどのように異なるか？
• RQ3 多次元期待値は、一貫性リスク測度に必要な一貫性公理を満たすか？
• RQ4 提案された多次元期待値は、効率的かつ安定した複数出力回帰を可能にするか？
• RQ5 期待値深度の単調性および連続性の性質は、数値最適化をどのように支援するか？

主な発見

• 半空間M深度は、標準的分位数外れ度をM-quantile外れ度に置き換えることで、Tukey深度を一般化し、自然な多次元拡張を提供する。
• 半空間M深度の最も深い点は、期待値の場合に平均ベクトルに一致し、直感的な中心性と整合する。
• 期待値深度はTukey深度よりも滑らかで、数値計算に有利な単調性を示す。
• 多次元期待値はリスク測度の公理的性質を満たし、リスク管理応用に適している。
• 提案された多次元期待値を用いた複数出力の期待値回帰は、実データおよびシミュレートデータの両方で成功裏に実装され、性能が確認された。
• この手法は非パラメトリック密度推定を回避するため、スムージングを伴わない推論が可能となる。これは、分位数回帰とは対照的である。