[论文解读] From Halfspace M-depth to Multiple-output Expectile Regression

Abdelaati Daouia, Davy Paindaveine|arXiv (Cornell University)|May 29, 2019

Advanced Statistical Methods and Models参考文献 48被引用 4

一句话总结

本文提出了超平面取值的多变量M-quantile以及一种新的统计深度——半合面M-深度，该方法通过用M-quantile离群度替代标准分位数离群度，推广了Tukey的半合面深度。该方法实现了多输出期望回归，其中期望深度表现出比Tukey深度更平滑的行为和更好的单调性，同时多变量期望值满足风险度量的协调性公理，并支持高效计算与回归建模。

ABSTRACT

Despite the renewed interest in the Newey and Powell (1987) concept of expectiles in fields such as econometrics, risk management, and extreme value theory, expectile regression---or, more generally, M-quantile regression---unfortunately remains limited to single-output problems. To improve on this, we introduce hyperplane-valued multivariate M-quantiles that show strong advantages, for instance in terms of equivariance, over the various point-valued multivariate M-quantiles available in the literature. Like their competitors, our multivariate M-quantiles are directional in nature and provide centrality regions when all directions are considered. These regions define a new statistical depth, the halfspace M-depth, whose deepest point, in the expectile case, is the mean vector. Remarkably, the halfspace M-depth can alternatively be obtained by substituting, in the celebrated Tukey (1975) halfspace depth, M-quantile outlyingness for standard quantile outlyingness, which supports a posteriori the claim that our multivariate M-quantile concept is the natural one. We investigate thoroughly the properties of the proposed multivariate M-quantiles, of halfspace M-depth, and of the corresponding regions. Since our original motivation was to define multiple-output expectile regression methods, we further focus on the expectile case. We show in particular that expectile depth is smoother than the Tukey depth and enjoys interesting monotonicity properties that are extremely promising for computational purposes. Unlike their quantile analogs, the proposed multivariate expectiles also satisfy the coherency axioms of multivariate risk measures. Finally, we show that our multivariate expectiles indeed allow performing multiple-output expectile regression, which is illustrated on simulated and real data.

研究动机与目标

• 解决计量经济学与风险管理中期望回归在单输出问题上的局限性。
• 开发一种保持优良性质（如不变性与协调性）的M-quantile回归多变量扩展。
• 提出一种新的统计深度——半合面M-深度，通过M-quantile离群度推广Tukey深度。
• 通过定义超平面取值的多变量期望值，实现多输出期望回归。
• 展示期望深度相较于Tukey深度在计算与理论上的优势，包括更平滑的行为与单调性。

提出的方法

• 将超平面取值的多变量M-quantile定义为单变量M-quantile的方向扩展，使用非对称二次损失（L2）定义期望值。
• 通过在Tukey半合面深度框架中用M-quantile离群度替代标准分位数离群度，构建半合面M-深度。
• 证明半合面M-深度的最深点在期望情形下对应于均值向量，与直观的中心性一致。
• 证明期望深度比Tukey深度更平滑，并表现出有益于优化与计算的单调性。
• 推导并验证多变量期望值满足风险度量理论中的协调性公理。
• 利用所提出的多变量期望值实现多输出期望回归，并在模拟与真实数据上进行验证。

实验结果

研究问题

• RQ1 M-quantile回归能否在保持不变性与协调性的同时，扩展至多变量响应？
• RQ2 半合面M-深度在平滑性与计算可行性方面与Tukey深度相比如何？
• RQ3 多变量期望值是否满足作为一致风险度量所必需的协调性公理？
• RQ4 所提出的多变量期望值能否支持高效且稳定的多输出回归？
• RQ5 期望深度具备哪些单调性与连续性特征，有助于数值优化？

主要发现

• 半合面M-深度通过用M-quantile离群度替代标准分位数离群度，推广了Tukey深度，实现了自然的多变量扩展。
• 在期望情形下，半合面M-深度的最深点为均值向量，与直观的中心性一致。
• 期望深度比Tukey深度更平滑，并表现出单调性，有利于高效数值计算。
• 多变量期望值满足风险度量的协调性公理，适用于风险管理应用。
• 利用所提出的多变量期望值成功实现了多输出期望回归，在真实与模拟数据上均表现出良好性能。
• 该方法避免了非参数密度估计，实现了无需平滑的推断，与分位数回归不同。