[논문 리뷰] Identifiability of Generalized Hypergeometric Distribution (GHD) Directed Acyclic Graphical Models

Gunwoong Park, Hyewon Park|arXiv (Cornell University)|2018. 05. 08.

Statistical and Computational Modeling인용 수 7

한 줄 요약

이 논문은 일반화된 하이퍼기하분포(GHD) 가족에 속하는 조건부 분포를 갖는 새로운 식별 가능한 방향 비순환 그래프(DAG) 모델의 클래스를 제안한다. 이 가족에는 포isson, 이항, 음수 이항 분포 등이 포함된다. 저자들은 평균과 r차 순열모멘트 사이의 볼록 관계를 이용해 공동분포로부터 기저 그래프 구조가 완전히 식별 가능하다는 것을 증명하고, 고차원 설정(p > n)에서 유한한 진입차수를 갖는 경우에도 일관되게 DAG를 복원할 수 있는 다항시간 복잡도의 모멘트 비율 스코링(MRS) 알고리즘을 제안한다.

ABSTRACT

We introduce a new class of identifiable DAG models where the conditional distribution of each node given its parents belongs to a family of generalized hypergeometric distributions (GHD). A family of generalized hypergeometric distributions includes a lot of discrete distributions such as the binomial, Beta-binomial, negative binomial, Poisson, hyper-Poisson, and many more. We prove that if the data drawn from the new class of DAG models, one can fully identify the graph structure. We further present a reliable and polynomial-time algorithm that recovers the graph from finitely many data. We show through theoretical results and numerical experiments that our algorithm is statistically consistent in high-dimensional settings (p>n) if the indegree of the graph is bounded, and out-performs state-of-the-art DAG learning algorithms.

연구 동기 및 목표

• 일반화된 하이퍼기하분포(GHD)를 사용하여 다변량 카운트 데이터를 위한 새로운 식별 가능한 DAG 모델의 클래스를 개발한다.
• 신뢰성 가정에 의존하지 않고, 평균과 r차 순열모멘트 사이의 볼록 관계를 이용해 GHD DAG 모델의 식별성을 확립한다.
• 유한 샘플에서 진짜 DAG 구조를 안정적으로 복원할 수 있는 확장 가능한 다항시간 알고리즘(MRS)을 설계한다.
• 고차원 설정(p > n)에서 진입차수가 유한한 경우 MRS 알고리즘의 통계적 일관성과 뛰어난 성능을 입증한다.
• 합성 데이터와 실제 NBA 선수 통계 자료를 활용해 방법을 검증하며, 이전 알고리즘 대비 더 나은 인과관계 복원 성능을 보인다.

제안 방법

• 각 노드의 조건부 분포가 GHD 가족에 속하는 새로운 DAG 모델 클래스를 제안하며, 이 가족에는 포isson, 이항, 음수 이항 분포 등이 포함된다.
• 인과적 충분성 가정 하에 GHD의 평균과 r차 순열모멘트 사이의 볼록 관계를 증명함으로써 식별성을 확립한다.
• 평균-순열모멘트 관계를 기반으로 한 스코링 함수를 활용해 경험적 모멘트를 이용해 그래프 구조를 추정하는 모멘트 비율 스코링(MRS) 알고리즘을 개발한다.
• 두 단계 접근법을 구현한다: 첫째, 모멘트 비율에 기반한 조건부 통계적 인성 검정을 이용한 스켈레톤 추정; 둘째, 평균-순열모멘트 관계의 볼록성 특성을 활용한 간선 방향 결정.
• 고차원 환경(p > n)에서 계산 효율성과 통계적 일관성을 확보하기 위해 진입차수에 상한을 둔다.
• 진짜 조건부 분포가 알려지지 않은 경우, 경험적 분산-평균 비율을 이용해 하이퍼-포아송 분포의 산란 매개변수 b_j를 데이터 기반으로 추정함으로써 실세계 적용에 대한 강건성을 향상시킨다.

실험 결과

연구 질문

• RQ1 포아송, 이항, 음수 이항 분포를 포함한 광범위한 이산분포 클래스를 활용해 완전히 식별 가능한 DAG 모델를 구성할 수 있는가?
• RQ2 조건부 분포가 일반화된 하이퍼기하분포 가족에 속할 경우, 공동분포로부터 DAG 모델의 그래프 구조가 식별 가능한가?
• RQ3 변수 수가 표본 크기보다 많을 때(p > n)도 다항시간 알고리즘이 진짜 DAG 구조를 복원할 수 있는가?
• RQ4 카운트 데이터에서 제안된 MRS 알고리즘은 GES, MMHC, ODS와 같은 최신 기법들 대비 정확도와 계산 효율성 측면에서 어떻게 비교되는가?
• RQ5 실제 카운트 데이터에서 MRS 알고리즘이 도출한 방향 간선은 이전 기법들보다 더 타당한 인과관계를 반영하는가?

주요 결과

• 제안된 GHD DAG 모델은 복잡도 가정 없이도 공동분포로부터 평균과 r차 순열모멘트 사이의 볼록 관계를 이용해 완전히 식별 가능하다.
• MRS 알고리즘은 다항시간 복잡도를 가지며, 진입차수가 유한한 고차원 설정(p > n)에서 통계적 일관성을 확보한다.
• 시뮬레이션 결과, MRS 알고리즘은 GES, MMHC, ODS보다 더 정확하게 진짜 그래프 구조를 복원하며, 표본 크기가 증가할수록 성능 향상이 뚜렷하다.
• 실제 NBA 선수 통계 자료(18개 변수)에서 MRS 알고리즘은 ODS 대비 8개 더 명확한 방향 간선을 도출했으며, 더 타당한 인과적 해석이 가능한 간선(예: TotalMinutesPlayed → PersonalFouls, ThreeAttempted → ThreeMade)을 포함한다.
• MRS 알고리즘은 간선 방향 복원에서 ODS를 능가하며, ODS 출력에서 볼 수 있는 설명 불가능한 간선들은 주로 스켈레톤 추정 오류에서 기인하는 반면, MRS는 더 인과적 해석이 가능한 구조를 도출한다.
• 진짜 조건부 분포가 알려지지 않은 경우에도 경험적 분산-평균 비율을 활용해 산란 매개변수를 추정함으로써 강건성이 유지된다.