[논문 리뷰] Sparse Bayesian Factor Analysis when the Number of Factors is Unknown

Sylvia Fruehwirth-Schnatter, Hedibert F. Lopes|arXiv (Cornell University)|2018. 04. 11.

Blind Source Separation Techniques인용 수 12

한 줄 요약

이 논문은 일반화된 하삼각 제약 조건을 도입하여 식별성과 회전 불변성 문제를 해결하는 희박한 베이지안 요인 모델을 제안한다. 이는 공통 요인의 수를 일관되게 추정할 수 있도록 한다. 점질량 혼합 사전분포와 고안된 MCMC 알고리즘(보조통계량-충분통계량 상호배치 전략 포함)을 사용하여, 요인의 수와 희박한 로딩을 동시에 복원하며, 분산 식별성에 대한 이론적 보장과 홠돈 및 주식 수익률 데이터에 대한 실증적 검증을 제공한다.

ABSTRACT

Despite the popularity of sparse factor models, little attention has been given to formally address identifiability of these models beyond standard rotation-based identification such as the positive lower triangular constraint. To fill this gap, we provide a counting rule on the number of nonzero factor loadings that is sufficient for achieving uniqueness of the variance decomposition in the factor representation. Furthermore, we introduce the generalised lower triangular representation to resolve rotational invariance and show that within this model class the unknown number of common factors can be recovered in an overfitting sparse factor model. By combining point-mass mixture priors with a highly efficient and customised MCMC scheme, we obtain posterior summaries regarding the number of common factors as well as the factor loadings via postprocessing. Our methodology is illustrated for monthly exchange rates of 22 currencies with respect to the euro over a period of eight years and for monthly log returns of 73 firms from the NYSE100 over a period of 20 years.

연구 동기 및 목표

• 표준 회전 기반 제약 조건을 초월하여, 희박한 베이지안 요인 모델에서 오랫동안 지속된 식별성 문제를 해결하기 위해.
• 과적합된 희박한 요인 모델에서 공통 요인의 수를 일관되게 추정할 수 있는 방법을 개발하기 위해.
• 요인 표현에서 분산 식별성을 보장하여 헤이워드 문제와 질량 결함을 피하기 위해.
• 베이지안 계층 모형을 활용하여 요인 수와 희박한 요인 로딩에 대한 통합적 프레임워크를 제공하기 위해.
• 자동 모델 선택과 사후 요약을 가능하게 하여 고차원 경제 및 금융 데이터에 실용적으로 적용할 수 있도록 하기 위해.

제안 방법

• 회전 불변성 문제를 해결하고 모형 식별성을 보장하기 위해 일반화된 하삼각 제약 조건을 도입한다.
• 요인 로딩에 점질량 혼합 사전분포를 적용하여 희박성을 유도하고, 영 로딩을 변수 선택 문제로 간주한다.
• 역전이 가능한 MCMC와 보조통계량-충분통계량 상호배치 전략(ASIS)을 사용한 맞춤형 MCMC 알고리즘을 활용하여 효율적인 사후 계산을 수행한다.
• 분산 성분의 안정성과 수렴성을 향상시키기 위해 분수형 및 일반화된 역가우시안 분포(GIG) 작업 사전분포를 적용한다.
• 모수의 수와 로딩 행렬을 동시에 요약하기 위해 주변 데이터 증강과 사후 후처리를 활용한다.
• 공액 및 조건부 공액 사전분포를 사용하여 로딩, 요인, 분산 성분의 조건부 사후분포를 유도한다.

실험 결과

연구 질문

• RQ1 요인 수가 알려져 있지 않을 때, 희박한 베이지안 요인 모델에서 식별성이 어떻게 공식적으로 확립될 수 있는가?
• RQ2 어떤 제약 조건이 희박한 요인 모델에서 고유한 분산 분해를 보장하고 회전 불변성을 해결하는 데에 충분한가?
• RQ3 베이지안 비모수 기법을 사용하여 과적합된 희박한 요인 모델에서 공통 요인의 수를 일관되게 추정할 수 있는가?
• RQ4 점질량 혼합 사전분포와 효율적인 MCMC 샘플링을 어떻게 조합하여 요인 수와 희박한 로딩을 동시에 추정할 수 있는가?
• RQ5 분수형 및 GIG 사전분포는 고차원 설정에서 사후 추론의 안정성과 헤이워드 문제를 피하는 데 어떤 역할을 하는가?

주요 결과

• 요인 모델의 분산 분해에서 고유성을 확보하기 위해 비영 로딩의 수에 대한 카운팅 규칙이 충분함이 입증되었다.
• 일반화된 하삼각 제약 조건은 과적합된 희박한 요인 모델에서 알려지지 않은 공통 요인 수를 일관되게 복원할 수 있도록 한다.
• ASIS와 점질량 사전분포를 갖는 제안된 MCMC 절차는 고차원 데이터에서 요인 수와 희박한 로딩을 성공적으로 식별한다.
• 22개 홠돈과 73개 NYSE100 주식에 대한 실증 결과는 안정적인 사후 추정치와 정확한 요인 선택, 낮은 가짜 발견률을 보였다.
• 일반화된 역가우시안(GIG) 작업 사전분포 사용은 역감마분포나 감마분포 대비 더 안정적인 MCMC 수렴을 이끌어냈다.
• 후처리를 통한 사후 요약은 요인 수에 대한 신뢰할 수 있는 추정치를 제공하였으며, 이는 헤이워드 문제와 질량 결함을 효과적으로 피하는 데 기여했다.