[论文解读] LASSO-Driven Inference in Time and Space

Victor Chernozhukov, Wolfgang Karl Härdle+2 more|arXiv (Cornell University)|Jun 13, 2018

Financial Risk and Volatility Modeling参考文献 47被引用 3

一句话总结

本文提出了一种基于LASSO的推断框架，用于具有横截面和时间依赖性的高维时间序列方程系统。通过使用块乘数自展法选择统一的惩罚水平，并推导出一致的Bahadur表示，该方法实现了对多个参数的有效联合推断，在弱依赖假设下达到类似oracle的效率和自展一致性。

ABSTRACT

We consider the estimation and inference in a system of high-dimensional regression equations allowing for temporal and cross-sectional dependency in covariates and error processes, covering rather general forms of weak temporal dependence. A sequence of regressions with many regressors using LASSO (Least Absolute Shrinkage and Selection Operator) is applied for variable selection purpose, and an overall penalty level is carefully chosen by a block multiplier bootstrap procedure to account for multiplicity of the equations and dependencies in the data. Correspondingly, oracle properties with a jointly selected tuning parameter are derived. We further provide high-quality de-biased simultaneous inference on the many target parameters of the system. We provide bootstrap consistency results of the test procedure, which are based on a general Bahadur representation for the $Z$-estimators with dependent data. Simulations demonstrate good performance of the proposed inference procedure. Finally, we apply the method to quantify spillover effects of textual sentiment indices in a financial market and to test the connectedness among sectors.

研究动机与目标

• 为具有时间依赖和横截面依赖的高维回归方程系统开发一种统一的惩罚参数选择方法。
• 在具有依赖数据的高维时间序列模型中，实现对多个参数的联合推断。
• 在弱依赖和高维设定下，建立推断程序的理论一致性。
• 提供一种稳健的、正则化后的推断方法，即使在模型选择不确定性下仍保持有效性。
• 将该方法应用于现实世界的金融数据，如情绪溢出效应和行业关联性。

提出的方法

• 对高维回归方程系统应用LASSO，以在多个方程中进行变量选择。
• 使用块乘数自展程序选择控制多重性与数据依赖性的全局调优参数。
• 在依赖数据条件下，为去偏Z-估计量推导一致的Bahadur表示，从而实现有效的推断。
• 在弱相关时间序列的Z-估计背景下，建立经验过程的最大不等式。
• 为联合估计量提出一致的近oracle界，确保在受限特征值条件下的一致性。
• 提出一种算法，用于正则化后对感兴趣参数进行局部和全局推断。

实验结果

研究问题

• RQ1 如何为具有依赖误差和协变量的高维回归方程系统选择一个单一的、全局最优的调优参数？
• RQ2 在弱依赖时间序列中，对LASSO选择后多个参数进行联合推断的理论依据是什么？
• RQ3 块乘数自展能否一致估计高维时间序列系统中去偏估计量的抽样分布？
• RQ4 与单方程LASSO方法相比，所提出的方法在有限样本中表现如何？
• RQ5 该方法在多大程度上能够检测金融情绪网络中的溢出效应和关联性？

主要发现

• 块乘数自展法能够一致估计去偏估计量的抽样分布，确保在弱依赖条件下的有效联合推断。
• 该方法实现了联合估计量的一致近oracle界，表明估计误差接近理想的oracle情形。
• 受限特征值条件在总体水平上成立，支持一致的变量选择和估计。
• 所提出的推断程序在有限样本中表现出色，其覆盖概率和检验功效优于单方程LASSO方法。
• 对金融情绪指数的实际应用揭示了跨行业显著的溢出效应和关联性，验证了该方法的实际有效性。