[논문 리뷰] LASSO-Driven Inference in Time and Space

Victor Chernozhukov, Wolfgang Karl Härdle외 2명|arXiv (Cornell University)|2018. 06. 13.

Financial Risk and Volatility Modeling참고 문헌 47인용 수 3

한 줄 요약

이 논문은 시계열 방정식의 고차원 시스템에서 횡단적 및 시간적 의존성을 고려한 LASSO 기반 추론 프레임워크를 제안한다. 블록 승수 부트스트랩을 사용하여 통합된 펜alties 수준을 선택하고, 균일한 Bahadur 표현을 도출함으로써 다중 매개변수에 대한 타당한 동시 추론을 가능하게 하며, 약한 의존성 가정 하에 오라클 유사 효율성과 부트스트랩 일致성을 달성한다.

ABSTRACT

We consider the estimation and inference in a system of high-dimensional regression equations allowing for temporal and cross-sectional dependency in covariates and error processes, covering rather general forms of weak temporal dependence. A sequence of regressions with many regressors using LASSO (Least Absolute Shrinkage and Selection Operator) is applied for variable selection purpose, and an overall penalty level is carefully chosen by a block multiplier bootstrap procedure to account for multiplicity of the equations and dependencies in the data. Correspondingly, oracle properties with a jointly selected tuning parameter are derived. We further provide high-quality de-biased simultaneous inference on the many target parameters of the system. We provide bootstrap consistency results of the test procedure, which are based on a general Bahadur representation for the $Z$-estimators with dependent data. Simulations demonstrate good performance of the proposed inference procedure. Finally, we apply the method to quantify spillover effects of textual sentiment indices in a financial market and to test the connectedness among sectors.

연구 동기 및 목표

• 시간적 및 횡단적 의존성이 있는 고차원 회귀 방정식 시스템에 대한 통합된 펜alty 선택 방법을 개발한다.
• 의존성 있는 자료를 가진 고차원 시계열 모형에서 다중 매개변수에 대한 동시 추론을 가능하게 한다.
• 약한 의존성과 고차원 설정 하에서 추론 절차의 이론적 일致성을 확립한다.
• 모형 선택 불확실성에도 불구하고 타당성을 유지하는 강력한, 정규화 이후 추론 방법을 제공한다.
• 감성 전이 및 부문 연결성과 같은 실제 금융 데이터에 방법을 적용한다.

제안 방법

• 다중 방정식 간 변수 선택을 위해 고차원 회귀 방정식 시스템에 LASSO를 적용한다.
• 다중성과 자료 의존성을 제어하는 데 사용되는 글로벌 조정 파rameter를 선택하기 위해 블록 승수 부트스트랩 절차를 사용한다.
• 의존성 있는 자료 하에서 보정 없는 Z-추정량에 대한 균일한 Bahadur 표현을 도출하여 타당한 추론을 가능하게 한다.
• 약한 의존성 시계열 자료를 고려한 Z-추정량의 경험 과정에 대한 최대 부등식을 확립한다.
• 제약 고유값 조건 하에서 연합 추정량에 대한 균일한 근접 오라클 경계를 구현하여 일관성을 보장한다.
• 정규화 이후 관심 있는 매개변수에 대한 국소적 및 글로벌 추론을 위한 알고리즘을 제안한다.

실험 결과

연구 질문

• RQ1 오차와 예측변수 간 의존성이 있는 고차원 회귀 방정식 시스템에 대해, 단일이고 전역적으로 최적의 조정 파rameter를 어떻게 선택할 수 있는가?
• RQ2 약한 의존성 시계열에서 LASSO 선택 이후 다중 매개변수에 대한 동시 추론의 이론적 근거는 무엇인가?
• RQ3 블록 승수 부트스트랩이 고차원 시계열 시스템에서 보정 없는 추정량의 표본 분포를 일관되게 추정할 수 있는가?
• RQ4 제안된 방법은 단일 방정식 LASSO 방법에 비해 유한 표본에서 어떻게 성능을 발휘하는가?
• RQ5 이 방법은 금융 감성 네트워크에서 전이 효과와 연결성을 어느 정도 탐지할 수 있는가?

주요 결과

• 블록 승수 부트스트랩은 보정 없는 추정량의 표본 분포를 일관되게 추정하여 약한 의존성 하에서 타당한 동시 추론을 보장한다.
• 이 방법은 연합 추정량에 대해 균일한 근접 오라클 경계를 달성하여 추정 오차가 이상적인 오라클 경우에 가까운 것을 의미한다.
• 제약 고유값 조건은 모집단 수준에서 성립하여 일관된 변수 선택과 추정을 뒷받침한다.
• 제안된 추론 절차는 유한 표본에서 뛰어난 성능을 보이며, 커버리지와 검정력 측면에서 단일 방정식 LASSO를 능가한다.
• 금융 감성 지수에 대한 실증 적용 결과, 부문 간 상당한 전이 효과와 연결성이 확인되어 방법의 실용적 유용성을 검증한다.