[논문 리뷰] Learning Latent Factors From Diversified Projections and Its Applications to Over-Estimated and Weak Factors

Jianqing Fan, Yuan Liao|arXiv (Cornell University)|2019. 08. 04.

Spatial and Panel Data Analysis참고 문헌 51인용 수 10

한 줄 요약

이 논문은 다각도적인 횡단적 투영을 사용하여 잠재 요인을 일관적으로 추정하는 강건한 요인 추정 방법을 제안한다. 이는 요인 수가 과도하게 추정되거나, 표본 크기가 작거나, 시간적 순응성이 강할 경우에도 성립한다. 패널 데이터를 사전에 정의된 다각도적인 가중치에 투영함으로써, 고유벡터에 의존하지 않으며, 약한 조건에서도 요인 하중과 공분산 구조의 일관된 추정을 보장한다.

ABSTRACT

Estimations and applications of factor models often rely on the crucial condition that the number of latent factors is consistently estimated, which in turn also requires that factors be relatively strong, data are stationary and weakly serially dependent, and the sample size be fairly large, although in practical applications, one or several of these conditions may fail. In these cases, it is difficult to analyze the eigenvectors of the data matrix. To address this issue, we propose simple estimators of the latent factors using cross-sectional projections of the panel data, by weighted averages with predetermined weights. These weights are chosen to diversify away the idiosyncratic components, resulting in “diversified factors.” Because the projections are conducted cross-sectionally, they are robust to serial conditions, easy to analyze and work even for finite length of time series. We formally prove that this procedure is robust to over-estimating the number of factors, and illustrate it in several applications, including post-selection inference, big data forecasts, large covariance estimation, and factor specification tests. We also recommend several choices for the diversified weights. Supplementary materials for this article are available online.

연구 동기 및 목표

• 요인 수가 과도하게 추정되거나 시간 시리즈가 짧고 시간 순응성이 강할 경우 일관되지 않은 요인 추정의 과제를 해결한다.
• 고유벡터에 의존하는 전통적인 주성분 추정기의 한계를 극복하며, 신호 대 잡음 비율이 낮거나 비stationary한 경우 실패하는 상황을 대비한다.
• 진짜 요인 수가 과소추정되거나 공통 요인이 존재하지 않을 경우에도 유효한 방법을 개발한다.
• 요인 차원의 모델 불일치가 있을 경우에도 요인 보정 모델에서 신뢰할 수 있는 추론을 가능하게 한다.
• 고차원 요인 모델에서 고유벡터 기반 추정기의 이론적으로 타당하고 계산이 단순한 대안을 제공한다.

제안 방법

• 다양화된 가중치로 구성된 결정론적 $N \times R$ 행렬인 $\mathbf{W}$를 사용하여 새로운 요인 추정기 $\widehat{\mathbf{f}}_t = \frac{1}{N} \mathbf{W}' \mathbf{x}_t$ 를 제안한다.
• 횡단적 투영을 통해 평균화함으로써 특이성 성분을 제거함으로써 추정 오차 $\mathbf{e}_t = \frac{1}{N} \mathbf{W}' \mathbf{u}_t$ 가 $N \to \infty$ 일 때 확률적으로 0으로 수렴하도록 보장한다.
• 가중치 행렬 $\mathbf{W}$ 가 요인 구조를 유지하도록 하기 위해 $\text{rank}(\frac{1}{N} \mathbf{W}' \mathbf{B}) = r$ 과 유한한 특이값을 요구한다.
• 분해 $\widehat{\mathbf{f}}_t = (\frac{1}{N} \mathbf{W}' \mathbf{B}) \mathbf{f}_t + \mathbf{e}_t$ 를 통해 추정기의 이론적 일관성을 확립함으로써 요인 공간이 일관되게 추정됨을 보여준다.
• 요인 수 $R \geq r$ 가 과도하게 추정되더라도 추정기가 여전히 일관되고 추론에 유효함을 증명함으로써 과도 추정에 대한 강건성을 입증한다.
• 다양한 설정에 적용: 선택 후 추론, 대규모 데이터 예측, 대규모 공분산 추정, 요인 구조 검정

실험 결과

연구 질문

• RQ1 신호 대 잡음 비율이 낮을 경우, 요인 수가 과도하게 추정되더라도 요인 추정이 일관되게 유지될 수 있는가?
• RQ2 기존 주성분 방법이 실패하는 짧은 시간 시리즈와 강한 시간 순응성 상황에서 요인 추정을 어떻게 강건하게 만들 수 있는가?
• RQ3 가중치 행렬 $\mathbf{W}$ 가 어떤 조건을 만족해야 요인 구조는 유지되면서 특이성 잡음은 분산될 수 있는가?
• RQ4 공통 요인이 존재하지 않더라도 추정된 요인이 여전히 존재할 경우, 요인 보정 모델에서 유효한 통계적 추론이 가능한가?
• RQ5 약한 또는 비stationary 성분을 포함한 고차원 패널 데이터에서 제안된 투영 기반 추정기가 고유벡터 기반 방법보다 우월하거나 대체 가능할 수 있는가?

주요 결과

• 제안된 다각도적 요인 추정기 $\widehat{\mathbf{f}}_t = \frac{1}{N} \mathbf{W}' \mathbf{x}_t$ 는 가중치가 다각도적이며 요인 구조가 유지되는 한 $R > r$ 일지라도 진짜 요인 공간을 일관되게 추정한다.
• 추정 오차 $\mathbf{e}_t = \frac{1}{N} \mathbf{W}' \mathbf{u}_t$ 는 $N \to \infty$ 일 때 확률적으로 0으로 수렴하여 특이성 잡음에 대한 강건성을 보장한다.
• 요인 수 과도 추정에 강건하다: $r = 0$ 이지만 $R \geq 1$ 이면 여전히 유효한 추론이 가능하여 '보험성' 요인 추출이 가능하다.
• 고유벡터에 의존하지 않기 때문에 시간 순응성에 강건하며, 유한한 $T$ 에도 적용 가능하다.
• 이론적 경계는 $\| \frac{1}{N} \mathbf{W}' (\widehat{\boldsymbol{\Sigma}}_u - \boldsymbol{\Sigma}_u) \mathbf{W} \| = O_P(\frac{g_{NT}^2}{N^2 \nu_{\min}^2}) \sum_{\sigma_{u,ij} \neq 0} 1 + O_P(\frac{1}{N \sqrt{NT} \nu_{\min}^3})$ 를 보여주며, 이는 공분산 추정의 일관성을 보장한다.
• $\widehat{\sigma}^2$ 는 진짜 분산 $\sigma^2$ 로 확률적으로 수렴하여 제안된 프레임워크 하에서 추정 오차 분산의 일관성을 확인한다.