[논문 리뷰] Calculation of Entailed Rank Constraints in Partially Non-Linear and Cyclic Models

Peter Spirtes|arXiv (Cornell University)|2013. 09. 17.

Bayesian Modeling and Causal Inference참고 문헌 17인용 수 11

한 줄 요약

이 논문은 선형 비순환 모델에서만 이전에 유효했던 공분산 행렬의 랭크 제약 조건이 부분적으로 비선형성과 순환성을 가진 구조적 방정식 모델에서도 여전히 성립함을 보이며 트레크 분리 정리의 일반화를 수행한다. 주요 기여는 BuildPureClusters와 같은 제약 기반 인과 발견 알고리즘을 비선형성과 순환성을 가진 모델에서 생성된 데이터에 적용할 수 있음을 정당화함으로써, 더 현실적인 인과 구조에 대해 이러한 알고리즘의 적용 가능성을 넓힌다.

ABSTRACT

The Trek Separation Theorem (Sullivant et al. 2010) states necessary and sufficient conditions for a linear directed acyclic graphical model to entail for all possible values of its linear coefficients that the rank of various sub-matrices of the covariance matrix is less than or equal to n, for any given n. In this paper, I extend the Trek Separation Theorem in two ways: I prove that the same necessary and sufficient conditions apply even when the generating model is partially non-linear and contains some cycles. This justifies application of constraint-based causal search algorithms such as the BuildPureClusters algorithm (Silva et al. 2006) for discovering the causal structure of latent variable models to data generated by a wider class of causal models that may contain non-linear and cyclic relations among the latent variables.

연구 동기 및 목표

• 선형 비순환 모델을 초월하여 부분적으로 비선형성과 순환적 구조를 포함하는 모델로 트레크 분리 정리를 일반화하는 것.
• 이러한 확장된 모델에서도 공분산 행렬의 랭크 제약 조건에 대해 필수적이고 충분한 조건이 동일하게 유지됨을 입증하는 것.
• 잠재 변수가 비선형성과 순환 관계를 가진 모델에서 생성된 데이터에 대해 제약 기반 인과 발견 알고리즘(예: BuildPureClusters)의 사용을 정당화하는 것.
• 랭크 기반 조건부 인력 테스트를 더 일반적인 인과 모델에 적용하기 위한 이론적 기초를 제공하는 것.

제안 방법

• 구조적 방정식이 부분적으로 비선형일 경우에도 공분산 행렬의 부분행렬에 대한 랭크 제약 조건이 유지됨을 증명함으로써 트레크 분리 정리를 확장한다.
• 잠재 변수와 순환 구조를 포함하는 방향 혼합 그래프의 구조를 분석하여 랭크 제약 조건을 결정하는 트레크 기반 경로를 규명한다.
• 순환성과 비선형성을 가진 모델에서의 조건부 인력을 기술하기 위해 d-분리와 트레크 분리를 적용한다.
• 대수적 및 그래프 이론적 기법을 사용하여 공분산 행렬의 부분행렬 랭크가 변수 쌍 간 트레크 경로의 수로 제한됨을 보여준다.
• 선형 비순환 모델에서 랭크 제약 조건을 유도하는 동일한 조합 조건(트레크 분리 기반)이 부분적으로 비선형성과 순환성을 가진 경우에도 적용됨을 보여준다.
• BuildPureClusters와 같은 기존 알고리즘에 기반한 일致성 결과를 제시함으로써 이론적 결과를 검증한다. 이 알고리즘들은 잠재 변수의 구조 탐지에 이러한 랭크 제약 조건을 활용한다.

실험 결과

연구 질문

• RQ1 잠재 변수 간 비선형 관계를 가진 모델에 대해 트레크 분리 정리의 랭크 제약 조건을 확장할 수 있는가?
• RQ2 잠재 변수 모델의 순환적 구조가 여전히 선형 비순환 모델과 동일한 공분산 행렬의 랭크 제약 조건을 유도하는가?
• RQ3 구조적 방정식이 부분적으로 비선형일 경우 랭크 제약 조건에 대한 필수적이고 충분한 조건이 유지되는가?
• RQ4 BuildPureClusters와 같은 제약 기반 인과 발견 알고리즘은 비선형성과 순환성을 가진 잠재 변수 모델에서 생성된 데이터에 신뢰성 있게 적용될 수 있는가?
• RQ5 부분적으로 비선형성과 순환성을 가진 모델에서 공분산 부분행렬의 랭크가 제한됨을 보장하는 그래프 이론적 조건은 무엇인가?

주요 결과

• 트레크 분리 정리에서 정의된 공분산 부분행렬의 랭크 제약 조건에 대한 필수적이고 충분한 조건은 비선형성과 순환성을 포함하는 모델에서도 그대로 유지된다.
• 부분적으로 비선형성과 순환성을 가진 모델에서도 선형 비순환 모델과 동일한 조합적 구조인 트레크 분리가 랭크 제약 조건을 결정한다.
• 이론적 기초는 더 광범위한 모델 클래스에 대해 랭크 기반 조건부 인력 테스트를 적용할 수 있음을 뒷받침한다.
• 결과적으로 BuildPureClusters와 같은 알고리즘을 비선형성과 순환적 의존성을 포함하는 잠재 변수 모델에서 생성된 데이터에 적용할 수 있음을 검증한다.
• 확장된 모델은 관찰 데이터로부터 인과 구조를 탐지하는 제약 기반 방법의 타당성을 더 일반적인 가정 하에서도 유지한다.