[논문 리뷰] Asymptotic distribution of principal component scores for pervasive, high-dimensional eigenvectors

Kristoffer H. Hellton, Magne Thoresen|arXiv (Cornell University)|2014. 01. 13.

Gene expression and cancer classification인용 수 4

한 줄 요약

이 논문은 고차원 유전체 데이터의 시각화에 있어 고전적 주성분 분석(PCA)이 이론적 모순에도 불구하고 여전히 효과적인 이유를 설명한다. 고차원 고유벡터에서의 이론적 모순에도 불구하고, 신호가 광범위할 경우(즉, 고유값이 차원에 선형적으로 비례할 경우), 표본 PCA 점수는 인구 점수의 일관되고 스케일링된, 그리고 회전된 형태임을 증명한다. 이는 상대적 위치와 점수도면의 해석 가능성 유지에 기여한다.

ABSTRACT

Plots of scores from principal component analysis are a popular approach to visualize and explore high-dimensional genetic data. However, the inconsistency of the high-dimensional eigenvectors has discredited classical principal component analysis and helped motivate sparse principal component analysis where the eigenvectors are regularized. Still, classical principal component analysis is extensively and successfully used for data visualization, and our aim is to give an explanation of this paradoxical situation. We show that the visual information given by the relative positions of the scores will be consistent, if the related signal can be considered to be pervasive. Firstly, we argue that pervasive signals lead to eigenvalues scaling linearly with the dimension, and we discuss genetic applications where such pervasive signals are reasonable. Secondly, we prove within the high-dimension low sample size regime, that when eigenvalues scale linearly with the dimension, the sample component scores will appear as scaled and rotated versions of the population scores. In consequence, the relative positions and visual information conveyed by the score plots will be consistent.

연구 동기 및 목표

• 고차원 유전체 데이터의 시각화에서 고전적 PCA가 이론적 불일치에도 불구하고 계속 성공하는 이유를 해결하기 위해.
• 고차원 환경에서 PCA 점수도면이 여전히 시각적으로 일관되고 해석 가능해지는 조건을 규명하기 위해.
• 표본 주성분 점수가 고유벡터가 일관되지 않더라도 인구 점수를 신뢰성 있게 반영할 수 있는 조건을 체계화하기 위해.
• 고전적 PCA가 데이터 시각화에서 널리 경험적으로 성공한 데 이르는 이론적 기반을 확립하기 위해.

제안 방법

• 표본 수가 낮고 차원이 높은 환경에서의 점진적 행동을 중심으로 고차원, 저표본 크기 영역 내에서 이론적 분석을 수행한다.
• 논문은 신호 구조를 광범위한 것으로 모델링하여, 모든 변수가 신호에 기여함을 의미하며, 이는 고유값이 차원에 선형적으로 비례하게 한다.
• 표본 주성분 점수의 점차적 분포를 유도하여, 이들이 인구 점수의 스케일링되고 회전된 형태로 수렴함을 보여준다.
• 랜덤 행렬 이론을 사용하여 선형 고유값 증가 조건 하에서 표본과 인구 점수 간의 관계를 특성화한다.
• 표본 점수와 인구 점수 간의 변환이 결정적이고 가역적임을 증명함으로써 점수도면에서의 상대적 위치 일관성을 확립한다.
• 핵심 논거는 선형 고유값 스케일링이 고차원 전반에서 주성분이 주요 신호 구조를 일관되게 포착함을 보장한다는 사실이다.

실험 결과

연구 질문

• RQ1 표본 주성분 점수가 고차원 환경에서 인구 점수와 일관되게 유지되는 조건은 무엇인가?
• RQ2 고유벡터의 고차원에서의 알려진 불일치에도 불구하고 고전적 PCA가 왜 신뢰할 수 있고 해석 가능한 점수도면을 계속 생성하는가?
• RQ3 광범위한 신호 구조는 고차원 데이터에서 PCA 점수의 점차적 행동에 어떻게 영향을 미치는가?
• RQ4 PCA 점수도면의 시각적 패턴이 통계적으로 의미 있는지, 또는 잡음에 의한 결과인지 보장하는 수학적 조건은 무엇인가?
• RQ5 선형적으로 증가하는 고유값이 고차원 데이터 전반에서 점수의 상대 기하학적 구조를 어느 정도 유지하는가?

주요 결과

• 고유값이 차원에 선형적으로 비례할 경우, 표본 주성분 점수는 인구 점수의 결정론적, 스케일링된, 그리고 회전된 형태로 수렴한다.
• PCA 점수도면에서 점들의 상대적 위치는 표본 점수와 인구 점수 간에 일관되며, 이는 해석 가능성 유지에 기여한다.
• 선형 고유값 스케일링 조건 하에서 표본 점수와 인구 점수 간의 변환은 점차적으로 결정적이며 가역적이다.
• 모든 변수가 신호에 기여하는 광범위한 신호—즉, 선형 고유값 증가—는 PCA 점수의 점차적 행동을 안정화시킨다.
• 결과는 고유벡터가 일관되지 않더라도 고차원 유전체 데이터의 시각화에서 고전적 PCA의 경험적 성공을 설명한다.
• 이 연구는 특히 광범위한 신호를 가진 유전적 응용 분야에서 고전적 PCA를 데이터 시각화에 사용하는 데 이론적 근거를 제공한다.