[논문 리뷰] D'ya like DAGs? A Survey on Structure Learning and Causal Discovery

Matthew J. Vowels, Necati Cihan Camgöz외 1명|arXiv (Cornell University)|2021. 03. 03.

Computational Drug Discovery Methods인용 수 4

한 줄 요약

이 종합 검토는 관찰 데이터에서 방향성 비순환 그래프(DAG)를 학습하기 위한 연속 최적화 기법에 중점을 두어 현대적 구조 학습 및 인과 발견 방법에 대한 종합적인 개요를 제공한다. 주요 가정을 강조하고 공통 평가 지표를 평가하며, 그래픽 구조와 진정한 인과성 사이의 핵심적 차이를 부각하여, 학습된 모델을 인과적 현실로 비판 없이 해석하는 것에 대해 경고한다.

ABSTRACT

Causal reasoning is a crucial part of science and human intelligence. In order to discover causal relationships from data, we need structure discovery methods. We provide a review of background theory and a survey of methods for structure discovery. We primarily focus on modern, continuous optimization methods, and provide reference to further resources such as benchmark datasets and software packages. Finally, we discuss the assumptive leap required to take us from structure to causality.

연구 동기 및 목표

• 현대적 구조 학습 및 인과 발견 방법에 대한 철저한 검토를 제공함. 특히 연속 최적화 기반 방법에 중점을 둠.
• 학습된 DAG의 인과적 해석에 놓인 가정과 제약 조건을 명확히 하며, 특히 인과 마르코프 조건과 구조 방정식 모델의 중요성을 다룸.
• 그래픽 구조 식별과 진정한 인과성 간의 근본적인 격차를 다루며, 오해의 위험을 강조함.
• 연구자들이 벤치마크 데이터셋, 소프트웨어 도구, 추가 연구 및 구현을 위한 자료를 정리하여 안내함.
• 특히 헬스케어 및 정책 분야와 같이 고위험 분야에서 인과 발견 방법을 신중하고 원칙적인 방식으로 사용할 것을 장려함.

제안 방법

• DAG의 구조 학습을 위한 연속 최적화 접근에 집중하며, DAG에 대한 이산적 탐색을 인접 행렬에 대한 미분 가능한 최적화로 대체함.
• Gumbel-Softmax나 DAG 제약 조건의 연속적 리프레젠테이션과 같은 미분 가능한 리프레젠테이션 기법을 활용하여 기울기 기반 최적화를 가능하게 함.
• 결과 그래프가 DAG임을 보장하는 제약 조건 하에, 미분 가능한 점수 함수(예: 우도 또는 BIC)를 최적화하는 점수 기반 방법을 활용함.
• sparsemax나 트레이스 테크닉(예: 인접 행렬 A에 대해 Tr(I - A)^{-1})를 사용한 순환성 제약 조건의 리프레젠테이션을 적용함.
• 관측 데이터와 개입 데이터를 조합하여 식별 가능성과 인과적 구조 복원 능력을 향상시키는 방법을 검토함.
• F1 점수, 구조적 허밍 거리, 정밀도/재현율과 같은 평가 지표를 통해 DAG의 구조 비교를 위한 방법을 개선함.

실험 결과

연구 질문

• RQ1 연속 최적화 기법은 관찰 데이터에서 순환성을 보장하면서 어떻게 효과적으로 DAG의 구조를 학습할 수 있는가?
• RQ2 학습된 DAG를 인과 모델로 해석하는 데 기반하는 핵심 가정은 무엇이며, 특히 인과 마르코프 조건은 어떤 의미를 갖는가?
• RQ3 실험적 개입 없이 진정한 인과 관계를 얼마나 신뢰성 있게 복원할 수 있는가?
• RQ4 잠재적 혼동 요인이나 선택 편향이 존재할 경우, 그래픽 구조를 인과적 구조로 해석하는 데 어떤 제한과 위험이 있는가?
• RQ5 구조에서 인과성으로의 도약이 보장되지 않을 때, 연구자들은 어떻게 책임감 있게 인과 발견 도구를 사용할 수 있는가?

주요 결과

• 특히 DAG 제약 조건의 미분 가능한 리프레젠테이션을 사용하는 연속 최적화 기법은 관찰 데이터에서 효율적이고 확장 가능한 구조 학습을 가능하게 한다.
• 인과 마르코프 조건은 인과적 해석의 기초가 되는 근본적인 가정이지만, 검증할 수 없는 것으로, 그래프가 진정한 인과 메커니즘을 반영한다는 보장을 하지 못한다.
• 많은 구조 복원 방법은 조건부 이상독립성에만 의존함에도 불구하고 비판 없이 '인과적'이라고 명명함으로써 사용자에게 잘못된 인과적 주장의 타당성에 대한 오해를 줄 수 있음.
• 개입 데이터의 사용은 식별 가능성 향상과 마르코프 동치성 DAG 간의 구분을 가능하게 하여 인과적 구조 복원에 대한 신뢰도를 높임.
• 유용하지만, 변수가 잘 정의되지 않거나 모델가 현실을 그대로 반영한다고 비판 없이 해석할 경우, 인과 발견 방법은 체계적 편향을 강화할 위험이 있음.
• 이 조사의 결론은, 인과 발견이 가설 생성과 모델 해석에 유용한 도구이긴 하지만, 연구자들은 그래픽 구조를 인과적 진실과 혼동하지 않도록 경계해야 한다는 것임.