[논문 리뷰] Latent Hierarchical Causal Structure Discovery with Rank Constraints

Biwei Huang, Charles Jia Han Low외 3명|arXiv (Cornell University)|2022. 10. 01.

Bayesian Modeling and Causal Inference인용 수 12

한 줄 요약

이 논문은 관측된 잎 변수들로부터만 잠재 변수, 그들의 기수성, 그리고 인과적 관계를 식별하기 위해 질서 결함 제약 조건을 활용하여, 변수들 사이에 다중 경로가 존재하는 잠재 계층적 인과 구조를 발견하는 새로운 알고리즘을 제안한다. 이 방법은 약간의 구조적 조건 하에 점점 더 정확한 마르코프 동치 클래스를 회복하며, 이전 방법들이 측정된 자식이나 나무 구조 가정을 필요로 하는 것과는 달리 더 뛰어난 성능을 보인다.

ABSTRACT

Most causal discovery procedures assume that there are no latent confounders in the system, which is often violated in real-world problems. In this paper, we consider a challenging scenario for causal structure identification, where some variables are latent and they form a hierarchical graph structure to generate the measured variables; the children of latent variables may still be latent and only leaf nodes are measured, and moreover, there can be multiple paths between every pair of variables (i.e., it is beyond tree structure). We propose an estimation procedure that can efficiently locate latent variables, determine their cardinalities, and identify the latent hierarchical structure, by leveraging rank deficiency constraints over the measured variables. We show that the proposed algorithm can find the correct Markov equivalence class of the whole graph asymptotically under proper restrictions on the graph structure.

연구 동기 및 목표

• 변수들 사이에 다중 경로가 존재하는 계층적 잠재 구조를 가진 시스템에서 나무 구조 가정을 초월한 인과 구조 발견의 과제를 해결하기 위해.
• 관측된 잎 변수들만을 사용하여 잠재 변수, 그들의 기수성, 그리고 전체 인과 그래프를 복원하기 위해.
• 약간의 구조적 조건 하에 전체 그래프의 마르코프 동치 클래스를 식별하는 데 이론적 보장이 있는 효율적인 알고리즘을 개발하기 위해.
• 각 잠재 변수가 측정된 자식을 가져야 한다거나 계층적 구조가 나무 모양이어야 한다는 이전의 가정을 완화하기 위해.

제안 방법

• 관측된 변수들의 공분산 행렬에서 질서 결함 제약 조건을 사용하여 잠재 혼동 요인과 그들의 구조적 관계를 탐지한다.
• 공통된 자식을 가진 잠재 변수의 최소 집합인 잠재 원자 커버를 식별하기 위해 재귀적 클러스터링 절차인 findCausalClusters를 도입한다.
• 겹치는 잠재 구조를 해결하고 고차원 잠재 변수를 복원하기 위해 반복적인 정제 단계인 remove-and-recluster를 수행한다.
• 크기가 k인 잠재 변수는 k+1개의 순수한 자식과 k+1개의 이웃이 존재할 경우 식별될 수 있으며, 이는 구조적 식별 가능성을 보장한다.
• 두 단계 전략을 사용한다: 먼저 잠재 클러스터를 식별하고, 그 다음에 간선을 정제하여 전체 그래프의 마르코프 동치 클래스를 출력한다.
• 이론적 분석 결과, 약간의 조건 하에 알고리즘이 점점 더 정확한 잠재 계층적 구조의 마르코프 동치 클래스를 회복함을 보였다.

실험 결과

연구 질문

• RQ1 다중 경로가 존재하는 상황에서 관측된 잎 노드들만으로도 잠재 변수와 그들의 기수성을 식별할 수 있는가?
• RQ2 질서 제약 조건만을 사용하여 잠재 변수 간의 인과 관계와 잠재 변수와 관측 변수 간의 인과 관계를 어떻게 복원할 수 있는가?
• RQ3 질서 기반 방법에서 잠재 계층적 구조의 식별 가능성을 보장하는 최소한의 구조적 조건은 무엇인가?
• RQ4 모든 잠재 변수가 측정된 자식을 가져야 한다는 조건 없이도 전체 그래프의 마르코프 동치 클래스를 점점 더 정확하게 복원할 수 있는가?

주요 결과

• 제안된 알고리즘은 약간의 구조적 조건 하에 점점 더 정확한 전체 잠재 계층적 인과 그래프의 마르코프 동치 클래스를 회복한다.
• 이 방법은 잠재 변수가 다른 잠재 자식을 가질 수 있음에도 불구하고, 관측된 잎 변수들만을 사용하여 잠재 변수와 그들의 기수성을 식별한다.
• 크기가 k인 잠재 변수를 식별하기 위해 알고리즘은 단지 k+1개의 순수한 자식과 k+1개의 이웃이 있으면 되며, 이는 이전 방법보다 더 유연한 조건이다.
• 기존 방법들이 각 잠재 변수가 최소 2k 또는 3k개의 측정된 자식을 가져야 한다는 요구 조건을 필요로 하는 것과는 달리, 이 방법은 더 넓은 실제 응용에 적용 가능하다.
• 합성 데이터에서의 경험적 검증을 통해 알고리즘이 다중 경로를 가진 복잡한 계층적 구조를 복원할 수 있음을 확인하였다.