[논문 리뷰] Budgeted Experiment Design for Causal Structure Learning

AmirEmad Ghassami, Saber Salehkaleybar외 2명|arXiv (Cornell University)|2017. 09. 11.

Advanced Causal Inference Techniques인용 수 9

한 줄 요약

이 논문은 최대 $k$개의 단일 간섭 실험에 제약 조건이 있는 상황에서 원인 구조 학습을 위한 예산 제약 실험 설계 프레임워크를 제안한다. 간섭 대상 선택 문제를 하위모듈러 최적화 문제로 공식화하여, 탐욕 알고리즘이 최적의 간선 방향 결정 획득률의 $(1 - 1/e)$-근사치를 달성할 수 있도록 한다. 가속화된 변형을 통해 실행 시간을 크게 단축시킬 수 있다. 이 방법은 합성 순환 그래프에서 단지 세 번의 간섭만으로도 90퍼센트 이상의 간선 방향 복원을 달성한다.

ABSTRACT

We study the problem of causal structure learning when the experimenter is limited to perform at most $k$ non-adaptive experiments of size $1$. We formulate the problem of finding the best intervention target set as an optimization problem, which aims to maximize the average number of edges whose directions are resolved. We prove that the corresponding objective function is submodular and a greedy algorithm suffices to achieve $(1-\frac{1}{e})$-approximation of the optimal value. We further present an accelerated variant of the greedy algorithm, which can lead to orders of magnitude performance speedup. We validate our proposed approach on synthetic and real graphs. The results show that compared to the purely observational setting, our algorithm orients the majority of the edges through a considerably small number of interventions.

연구 동기 및 목표

• 제한된 수의 간섭만 허용되는 상황에서 원인 구조를 학습하는 데 도전하는 데 초점한다.
• 간섭 대상 선택 문제를 평균적으로 방향이 정해진 간선 수를 최대화하는 최적화 문제로 공식화한다.
• 목적 함수가 단조롭고 하위모듈러적임을 입증하여, 탐욕 알고리즘을 통한 효율적 근사가 가능함을 보장한다.
• 대규모 그래프에서 실용적인 확장성을 확보하기 위해 가속화된 탐욕 알고리즘을 개발한다.
• 합성 순환 DAG와 DREAM 3 챌린지에서의 실제 유전자 조절 네트워크(GRNs)를 대상으로 방법을 검증한다.

제안 방법

• 원인 DAG에서 방향이 정해진 간선 수의 기대값을 최대화하는 방식으로 간섭 설계 문제를 공식화한다.
• 목적 함수가 단조롭고 하위모듈러적임을 증명하여, 탐욕 선택을 통한 $(1 - 1/e)$-근사치 확보를 보장한다.
• 주어진 간섭 집합에 대해 방향이 정해진 간선 수의 기대값을 계산하기 위한 추정 방법을 도입한다.
• 실행 시간을 수십 배에서 수백 배 이상 단축시키기 위해 샘플링 및 근사 기법을 활용한 가속화된 탐욕 알고리즘을 제안한다.
• 초기 관찰 단계에 기반한 비적응형 실험 설계를 통해 병렬 실행을 가능하게 한다.
• 제안된 방법을 합성 순환 DAG와 DREAM 3 In Silico 네트워크 챌린지에서의 실제 GRNs에 적용한다.

실험 결과

연구 질문

• RQ1 최대 $k$개의 단일 간섭 실험만을 사용할 때, 최대로 정해질 수 있는 간선 방향의 수는 얼마인가?
• RQ2 예산 제약 조건 하에서 기대적으로 방향이 정해진 간선 수를 최대화하기 위해 간섭 대상을 어떻게 선택할 수 있는가?
• RQ3 하위모듈러 최적화가 원인 실험 설계에 효과적으로 적용되어 이론적 근사 보장을 보장할 수 있는가?
• RQ4 제안된 방법은 무작위 또는 차수 기반 선택과 같은 난이도 높은 히وري스틱 기법과 비교해 간선 방향 복원 성능에서 어떻게 다른가?
• RQ5 대규모 원인 그래프에서 이 방법의 계산적 확장성은 어떠한가?

주요 결과

• 합성 순환 DAG의 경우, 단지 세 번의 간섭만으로도 순서 20인 그래프에서 이전에 방향이 정해지지 않은 간선의 90퍼센트 이상을 방향화할 수 있다.
• 크기가 $n \leq 30$인 그래프에 대해, 모든 테스트된 순서에서 발견된 간선 비율이 91퍼센트를 초과한다.
• 순서 10인 100개의 순환 DAG에 대해 $k=2$일 때 제안된 알고리즘이 0.90의 발견 간선 비율을 달성하였으며, 이는 최적값 0.916에 매우 가까운 성능이다.
• $k=2$, $n=10$일 때, 브루트 포스 방식의 실행 시간이 6000초 이상이었으나, 가속화된 탐욕 알고리즘을 통해 216초로 단축되었다.
• 크기 100인 실제 유전자 조절 네트워크(GRNs)에서 $k=5$개의 간섭을 사용했을 때, 최소 0.65의 발견 간선 비율을 확보하였다.
• 그래프 크가 커질수록 제안된 방법의 성능가 무작위 및 차수 기반 히وري스틱 기법보다 뚜렷하게 뛰어나다.