[논문 리뷰] Learning linear non-Gaussian directed acyclic graph with diverging number of nodes

Ruixuan Zhao, Xin He외 1명|arXiv (Cornell University)|2021. 11. 01.

Bayesian Modeling and Causal Inference참고 문헌 33인용 수 4

한 줄 요약

이 논문은 수많은 노드가 증가하는 고차원 설정에서 선형 비정규 분포를 가진 방향성 비순환 그래프(DAG)를 학습하기 위한 새로운 효율적인 방법을 제안한다. 상위 계층 구조 프레임워크를 도입함으로써 정밀도 행렬 추정과 독립성 검정을 통해 정확한 하향식 DAG 재구성 기반으로, 충실성 또는 부모-충실성 가정 없이도 일致적인 인과적 구조 복원이 가능하다.

ABSTRACT

Acyclic model, often depicted as a directed acyclic graph (DAG), has been widely employed to represent directional causal relations among collected nodes. In this article, we propose an efficient method to learn linear non-Gaussian DAG in high dimensional cases, where the noises can be of any continuous non-Gaussian distribution. This is in sharp contrast to most existing DAG learning methods assuming Gaussian noise with additional variance assumptions to attain exact DAG recovery. The proposed method leverages a novel concept of topological layer to facilitate the DAG learning. Particularly, we show that the topological layers can be exactly reconstructed in a bottom-up fashion, and the parent-child relations among nodes in each layer can also be consistently established. More importantly, the proposed method does not require the faithfulness or parental faithfulness assumption which has been widely assumed in the literature of DAG learning. Its advantage is also supported by the numerical comparison against some popular competitors in various simulated examples as well as a real application on the global spread of COVID-19.

연구 동기 및 목표

• 표본 크기와 함께 증가하는 노드 수를 가진 고차원 선형 비정규 DAG 학습의 과제를 해결한다.
• 정규성 잡음, 동일 분산 또는 충실성 가정과 같은 강력한 가정에 의존하는 기존 방법의 한계를 극복한다.
• 고차원 설정에서 정확한 DAG 복원을 위한 계산적으로 효율적인 알고리즘을 개발한다.
• 충실성 가정 없이도 상위 계층 구조와 부모-자식 관계의 일致한 복원을 위한 이론적 보장을 제공한다.

제안 방법

• 노드를 계층으로 분할하는 새로운 상위 계층 개념을 도입하여, 어떤 노드의 부모가 항상 더 높은 계층에 위치하도록 하여, 구성적으로 순환을 방지한다.
• 정밀도 행렬 추정과 조건부 독립성 검정을 통해 하향식으로 상위 계층을 재구성한다.
• 추정된 정밀도 행렬을 사용해 각 계층 내에서 직접적으로 부모-자식 관계를 식별한다.
• 희소성 가정 하에 고차원 정밀도 행렬 추정을 위해 그래픽 라소를 적용한다.
• 추정된 부분 상관관계를 바탕으로 엣지 탐지 정밀도를 향상시키기 위해 하드-스리핑 절차를 적용한다.
• 기존 방법과 비교해 모든 가능한 DAG에 대한 전수 검색을 피함으로써 계산 복잡도를 크게 감소시켜 계산 효율성을 확보한다.

실험 결과

연구 질문

• RQ1 선형 비정규 DAG의 상위 계층은 수많은 노드가 증가하는 고차원 설정에서 정확하게 재구성될 수 있는가?
• RQ2 제안된 방법은 충실성 또는 부모-충실성 가정 없이도 진정한 DAG 구조를 일관되게 복원할 수 있는가?
• RQ3 정확도와 계산 효율성 측면에서 기존 최첨단 DAG 학습 알고리즘과 비교해 성능가 어떻게 다른가?
• RQ4 복잡한 의존성 구조를 가진 실세계 데이터, 예를 들어 코로나19의 세계적 확산과 같은 상황에서도 인과적 구조를 성공적으로 복원할 수 있는가?
• RQ5 조정 파라미터와 데이터 생성 메커니즘이 유한 표본에서의 성능에 미치는 영향은 무엇인가?

주요 결과

• 제안된 방법인 TL(상위 계층)은 고차원 설정에서 정확한 상위 계층 재구성가 가능하며, 이는 정리 1과 추론 1에서 증명되었다.
• 부모-자식 관계는 계층 재구성과 함께 일관되게 복원되며, 추론 2에서 추정된 정밀도 행렬만으로도 이를 입증했다.
• 이 방법은 충실성 또는 부모-충실성 가정이 필요 없어 대부분의 기존 접근법보다 더 온화한 통계 조건에서도 적용 가능하다.
• 시뮬레이션 실험에서 TL은 MDirect 및 LiNGAM과 같은 경쟁 방법보다도 구조 히든 맨 디스턴스와 F1 스코어 측면에서 뛰어난 성능을 보였다. 특히 고차원 및 희소 설정에서 두드러졌다.
• 실세계 응용 사례로 코로나19의 세계적 확산을 분석한 결과, 99개 국가 간 736개의 유도 간선을 식별했으며, 주요 허브로 이탈리아, 영국, 남한, 미국이 확인되었고, 이는 초기 전파 패턴과 일치했다.
• 이 방법의 계산 복잡도는 지수순도 방법보다 크게 낮아 고차원 설정에서도 확장 가능한 학습이 가능하다.