[논문 리뷰] On singular value distribution of large dimensional auto-covariance matrices

Zeng Li, Guangming Pan외 1명|arXiv (Cornell University)|2014. 02. 25.

Random Matrices and Applications참고 문헌 6인용 수 5

한 줄 요약

이 논문은 i.i.d. $ p $-차원 오차항이 유한한 네 번째 모멘트를 가지며 Lindeberg 조건을 만족하는 조건 하에서, 차원 $ p $ 와 표본 크기 $ T $ 가 비례적으로 증가할 때, 큰 차원의 자기공분산 행렬 $ C_{\tau} = T^{-1} \sum_{j=1}^{T} \varepsilon_{\tau+j} \varepsilon_j^t $ 의 특이값에 대한 극한 스펙트럼 분포(LSD)를 수립한다. 주요 기여는 비대칭이고 종속적인 자기공분산 행렬에 대해 Marçenko-Pastur 법칙을 일반화한 새로운 LSD를 도출한 것으로, 교차항과 종속성 구조를 다루기 위한 새로운 기법을 사용한다.

ABSTRACT

Let $(\varepsilon_j)_{j\geq 0}$ be a sequence of independent $p-$dimensional random vectors and $τ\geq1$ a given integer. From a sample $\varepsilon_1,\cdots,\varepsilon_{T+τ-1},\varepsilon_{T+τ}$ of the sequence, the so-called lag $-τ$ auto-covariance matrix is $C_τ=T^{-1}\sum_{j=1}^T\varepsilon_{τ+j}\varepsilon_{j}^t$. When the dimension $p$ is large compared to the sample size $T$, this paper establishes the limit of the singular value distribution of $C_τ$ assuming that $p$ and $T$ grow to infinity proportionally and the sequence satisfies a Lindeberg condition on fourth order moments. Compared to existing asymptotic results on sample covariance matrices developed in random matrix theory, the case of an auto-covariance matrix is much more involved due to the fact that the summands are dependent and the matrix $C_τ$ is not symmetric. Several new techniques are introduced for the derivation of the main theorem.

연구 동기 및 목표

• 차원 $ p $ 와 표본 크기 $ T $ 가 비례적으로 증가할 때, 큰 차원의 지연-$ \tau $ 자기공분산 행렬 $ C_{\tau} $ 의 경험적 특이값 분포(ESD)의 거의 확실한 극한을 유도하는 것.
• 자기공분산 행렬의 고차원 설정에서의 점근 이론 부족 문제를 해결하는 것—여기서 $ C_{\tau} $ 는 비대칭이며 그 합성항들은 종속되어 있다.
• 표본 공분산 행렬에 대한 고전적인 랜덤 행렬 결과(예: Marçenko-Pastur 법칙)를 시간적 종속성이 있는 더 복잡한 자기공분산 행렬의 경우로 일반화하는 것.
• 고차원 확률에서 비에르미트이면서 종속적인 행렬 구조의 특이값 분포를 다룰 수 있는 새로운 분석 기법을 개발하는 것.

제안 방법

• 비대칭 행렬을 다룰 수 있도록 조정된 스틸체스 변환 방법을 사용하여 $ C_{\tau} $ 의 극한 스펙트럼 분포(LSD)를 유도한다.
• 경험 분포의 안정화와 특이값의 변동 조절을 위해 재스케일링 기법을 도입한다.
• 오차 벡터 $ \varepsilon_j $ 의 네 번째 모멘트가 균일하게 유계이면서 약한 종속성을 만족하도록 Lindeberg 유형 조건을 적용한다.
• 꼬리 행동을 제어하기 위해 절단과 조건화 전략을 사용하여 ESD의 확률 수렴 및 거의 확실 수렴을 보장한다.
• 행렬 $ C_{\tau} $ 를 이차형식의 합으로 분해하고 모멘트 방법을 적용하여 특이값을 분석한다.
• 경험 분포와 극한 분포 사이의 $ L^4 $-거리에 대한 경계를 설정하여 ESD가 결정론적 극한으로 거의 확실하게 수렴함을 증명한다.

실험 결과

연구 질문

• RQ1 차원 $ p $ 와 표본 크기 $ T $ 가 비례적으로 증가할 때, 큰 차원의 지연-$ \tau $ 자기공분산 행렬 $ C_{\tau} $ 의 특이값에 대한 극한 분포는 무엇인가?
• RQ2 $ C_{\tau} $ 의 합성항들 사이의 종속성 구조는 i.i.d. 표본 공분산 행렬과 비교해 특이값 분포의 수렴에 어떤 영향을 미치는가?
• RQ3 고차원 점근 이론 하에서 비대칭이면서 종속적인 자기공분산 행렬에 대해 Marçenko-Pastur 법칙을 확장할 수 있는가?
• RQ4 비에르미트이면서 종속적인 랜덤 행렬의 LSD를 분석하기 위해 어떤 새로운 기술 도구가 필요한가?
• RQ5 $ C_{\tau} $ 의 특이값 분포는 동적 요인 모델에서 잠재 요인의 수를 결정하는 요인 분석 문제와 어떻게 관련이 있는가?

주요 결과

• i.i.d. 오차항이 유한한 네 번째 모멘트를 가지며 Lindeberg 조건을 만족하는 조건 하에서, $ p $ 와 $ T $ 가 비례적으로 증가할 때 $ C_{\tau} $ 의 경험적 특이값 분포(ESD)는 거의 확실하게 결정론적 극한으로 수렴한다.
• 비대칭성과 종속성 구조로 인해 $ C_{\tau} $ 의 극한 스펙트럼 분포(LSD)는 Marçenko-Pastur 법칙이 아니다.
• LSD는 리졸베이트 방법을 자기공분산 구조에 적용하여 유도된 복소수 방정식을 만족하는 스틸체스 변환을 통해 특성화된다.
• ESD가 LSD로 수렴하는 속도는 $ L^4 $-거리 기준으로 $ O(1/T^2) $ 이며, 이는 강한 거의 확실 수렴을 나타낸다.
• 분석 결과, $ C_{\tau} $ 의 특이값은 서로 다른 시간 지연 간의 교차항에 의해 영향을 받으며, 이에 대응하는 새로운 모멘트 경계와 절단 기법이 필요하다.
• 재스케일링과 조건화 프레임워크를 도입함으로써 비대칭성과 시간적 종속성을 효과적으로 다루어 특이값 행동을 안정화시켰다.