[논문 리뷰] Statistical inference for large-dimensional tensor factor model by iterative projections

Matteo Barigozzi, Yong He외 2명|arXiv (Cornell University)|2022. 06. 20.

Tensor decomposition and applications인용 수 5

한 줄 요약

이 논문은 텐서 요인 모델의 투커 분해 기반으로 새로운 반복적 투영 추정기법을 제안하며, 벡터 요인 모델에서의 주성분 분석(PCA)과 유사한 최소제곱 해석을 제공한다. 이 방법은 신호의 차원을 동시에 감소시키고 비공통성 성분의 크기를 줄여 신호 대 잡음 비율을 향상시키며, 비공통성 오차의 약한 교차 및 자기상관 조건 하에서 난이도 있는 PCA 추정기보다 더 빠른 수렴 속도를 달성한다.

ABSTRACT

Tensor Factor Models (TFM) are appealing dimension reduction tools for high-order large-dimensional tensor time series, and have wide applications in economics, finance and medical imaging. In this paper, we propose a projection estimator for the Tucker-decomposition based TFM, and provide its least-square interpretation which parallels to the least-square interpretation of the Principal Component Analysis (PCA) for the vector factor model. The projection technique simultaneously reduces the dimensionality of the signal component and the magnitudes of the idiosyncratic component tensor, thus leading to an increase of the signal-to-noise ratio. We derive a convergence rate of the projection estimator of the loadings and the common factor tensor which are faster than that of the naive PCA-based estimator. Our results are obtained under mild conditions which allow the idiosyncratic components to be weakly cross- and auto- correlated. We also provide a novel iterative procedure based on the eigenvalue-ratio principle to determine the factor numbers. Extensive numerical studies are conducted to investigate the empirical performance of the proposed projection estimators relative to the state-of-the-art ones.

연구 동기 및 목표

• 시계열 맥락에서 대규모 차원의 텐서 요인 모델(TFM)에 대한 통계적 추론 도구의 부족을 해결한다.
• 신호와 비공통성 성분의 크기를 모두 감소시켜 신호 대 잡음 비율을 향상시키는 투영 기반 추정기 개발.
• 비공통성 성분의 약한 의존성 조건 하에서 로딩 및 공통 요인 텐서의 이론적 수렴 속도 확립.
• 각 모드에서의 요인 수를 일관적으로 추정하기 위한 새로운 반복적 고유값 비율 절차 제안.
• 추정기의 최소제곱 해석을 제시하며, 이는 벡터 요인 모델에서의 PCA와 유사하다.

제안 방법

• 투커 분해된 텐서 요인 모델을 대상으로 반복적 투영을 사용하여 차원 감소와 노이즈 감소를 위한 투영 추정기 제안.
• 벡터 모델에서의 PCA와 유사하게, 투영된 텐서 데이터에 대해 최소제곱 최적화를 적용하여 로딩과 공통 요인 추정.
• 반복적 정밀도 향상: 각 단계에서 추정된 로딩이 생성하는 공간에 투영하고, 필요한 경우 추가 성분을 추가.
• 각 모드의 요인 수를 결정하기 위해 반복 알고리즘에서 고유값 비율 원리를 활용하여 일관성 향상.
• 프로젝션된 표본 공분산 행렬의 고유값에 대한 수렴 속도 유도를 위해 웨일의 부등식과 행렬 편향 이론 활용.
• 비공통성 성분에 대한 약한 의존성 가정(약한 교차 및 자기상관) 하에서 이론적 경계 확립.

실험 결과

연구 질문

• RQ1 투커 분해된 텐서 요인 모델을 위한 투영 기반 추정기는 난이도 있는 PCA 추정기보다 더 빠른 수렴 속도를 달성할 수 있는가?
• RQ2 고차원 텐서 시계열에서 신호와 노이즈의 동시에 차원을 줄임으로써 신호 대 잡음 비율을 어떻게 향상시킬 수 있는가?
• RQ3 제안된 투영 추정기의 로딩 및 공통 요인 텐서에 대한 이론적 수렴 속도는 무엇인가?
• RQ4 반복적 고유값 비율 절차는 텐서 요인 모델의 각 모드에서 요인 수를 일관되게 추정할 수 있는가?
• RQ5 투영 추정기의 최소제곱 해석은 어떤 조건에서 성립하며, 이는 벡터 요인 모델에서의 PCA와 어떻게 유사한가?

주요 결과

• 제안된 투영 추정기는 난이도 있는 PCA 기반 추정기보다 로딩 및 공통 요인 텐서에 대해 더 빠른 수렴 속도를 달성한다.
• 이 방법은 신호 성분의 차원을 동시에 감소시키고 비공통성 성분 텐서의 크기를 줄여 신호 대 잡음 비율을 향상시킨다.
• 비공통성 성분의 약한 교차 및 자기상관 조건을 允허하는 온건한 조건 하에서 이론적 수렴 속도가 확립된다.
• 반복적 고유값 비율 절차는 고차원 설정에서도 각 모드의 요인 수를 일관되게 추정한다.
• 추정기는 벡터 요인 모델에서의 PCA와 유사한 최소제곱 해석을 가지며, 원칙적인 통계적 기반을 제공한다.
• 수치적 연구 결과는 유한 표본에서 제안된 추정기가 최신 기법들보다 뛰어난 경험적 성능을 보임을 확인한다.