[논문 리뷰] Helping Effects Against Curse of Dimensionality in Threshold Factor Models for Matrix Time Series

Xialu Liu, Elynn Chen|arXiv (Cornell University)|2019. 04. 16.

Neural Networks and Applications인용 수 8

한 줄 요약

이 논문은 행과 열 양방향으로 차원을 동시에 감소시키는 제한값 요인 모델을 제안하여 행렬형 고차원 시계열에서 차원의 극복을 동시에 달성한다. 주요 기여는 제한값에 의한 강력한 스위칭과 제한값 내에서의 요인 효과가 함께 작용함으로써 차원의 고통을 완화시켜 차원이 증가함에도 일致된 추정이 가능하게 하며, 요인 수의 과대추정에 대해 안정성을 보임을 입증하는 것이다.

ABSTRACT

As is known, factor analysis is a popular method to reduce dimension for high-dimensional data. For matrix data, the dimension reduction can be more effectively achieved through both row and column directions. In this paper, we introduce a threshold factor models to analyze matrix-valued high-dimensional time series data. The factor loadings are allowed to switch between regimes, controlling by a threshold variable. The estimation methods for loading spaces, threshold value, and the number of factors are proposed. The asymptotic properties of these estimators are investigated. Not only the strengths of thresholding and factors, but also their interactions from different directions and different regimes play an important role on the estimation performance. When the thresholding and factors are all strong across regimes, the estimation is immune to the impact that the increase of dimension brings, which breaks the curse of dimensionality. When the thresholding in two directions and factors across regimes have different levels of strength, we show that estimators for loadings and threshold value experience 'helping' effects against the curse of dimensionality. We also discover that even when the numbers of factors are overestimated, the estimators are still consistent. The proposed methods are illustrated with both simulated and real examples.

연구 동기 및 목표

• 행과 열 양측의 구조적 차원 감소를 활용하여 고차원 행렬형 시계열에서의 차원의 고통 문제를 해결한다.
• 비선형 역학을 반영하기 위해 임계값 변수를 사용해 요인 하중의 제도 전환 행동을 모델링한다.
• 고차원 점점 증가하는 점근적 이론 하에서 하중 공간, 임계값, 요인 수의 일致된 추정 절차를 개발한다.
• 다양한 제도에서의 제한값 강도와 요인 강도 간의 상호작용이 추정 성능에 미치는 영향을 조사한다.
• 고차원 설정에서 중요한 실용적 문제인 요인 수 과대추정에 대해 추정기의 안정성을 입증한다.

제안 방법

• 행렬형 제한값 요인 모델을 제안: $\mathbf{X}_t = \mathbf{R} \mathbf{F}_t \mathbf{C}' + \mathbf{E}_t$로, 요인 하중이 임계값 변수에 따라 제도를 전환한다.
• 행과 열 방향 데이터에 대해 공동 주성분 분석을 통해 하중 공간 $\mathbf{R}$ 과 $\mathbf{C}$ 를 추정하며, 제한값의 구조에 적응시킨다.
• 이중 단계 추정 절차를 개발: 먼저 후보 임계값에 대한 격자 탐색을 통해 임계값을 추정하고, 그 다음에 임계값 조건 하에 요인 공간을 추정한다.
• 증가하는 차원과 표본 크기 하에서 점근적 이론을 적용하여 하중, 임계값, 요인 수 추정기의 일치성과 수렴 속도를 도출한다.
• 요인 수 선택을 위한 페널티 기반 기준을 도입하여, 요인 수가 과대추정된 경우에도 일치성을 보임을 입증한다.
• 스펙트럼 노름과 고유값 갭 분석을 적용하여 약한 및 강한 요인/하중 조건 하에서 추정 오차에 대한 균일한 통제를 확립한다.

실험 결과

연구 질문

• RQ1 행과 열 양측에서의 제한값 효과가 함께 작용할 경우, 행렬 시계열에서 차원의 고통을 완화시킬 수 있는가?
• RQ2 다양한 제도에서 제한값 강도와 요인 강도의 상대적 크기가 추정 정확도와 일치성에 어떤 영향을 미치는가?
• RQ3 고차원 설정에서 요인 수가 과대추정되었을 경우 추정기 성능은 어떻게 변하는가?
• RQ4 제한값과 요인 강도 간의 상호작용이 어떤 조건에서 '도움 효과'를 만들어 내어 추정의 안정성을 향상시키는가?
• RQ5 표본 크기 $T$ 가 증가함에 따라 차원 $p_1 \times p_2$ 가 증가할 때, 임계값과 하중 공간의 일관된 추정이 가능할 수 있는가?

주요 결과

• 모든 제도에서 제한값과 요인이 강력할 경우, 추정은 차원의 고통에 완전히 저항하여 $p_1$과 $p_2$가 증가함에도 불구하고 일관된 추정이 가능하다.
• 제도 간 제한값과 요인의 강도가 혼합된 경우 '도움 효과'가 발생한다: 한 제도에서 강력한 성분이 다른 제도에서 약한 성분의 추정을 향상시켜 효과적 차원을 감소시킨다.
• 하중 공간과 임계값 추정기들은 요인 수가 과대추정된 경우에도 일관성을 유지하여 모형 오지정에 대해 안정성을 보임을 입증한다.
• 약한 의존성과 모멘트 조건 하에서 임계값 추정기의 점근적 분포를 도출하였으며, 진짜 값 근처에 있을 경우 수렴 속도가 $O_p(\epsilon^2)$ 임을 보였다.
• 추정된 하중 공간의 스펙트럼 노름은 $p_1^{2 - \delta_{11} - \delta_{12}} p_2^{2 - \delta_{21} - \delta_{22}}$ 의 속도로 진짜 공간으로 균일하게 수렴하며, 강한 요인과 제한값 조건 하에서는 유계이다.
• 다국적 거시경제 데이터에 대한 실증 적용은 모델이 구조적 이행을 잘 포착하고 기존 표준 요인 모델보다 예측 정확도를 향상시킬 수 있음을 확인한다.