[논문 리뷰] Discovering Markov Blanket from Multiple interventional Datasets

Kui Yu, Lin Liu외 1명|arXiv (Cornell University)|2018. 01. 25.

Bayesian Modeling and Causal Inference참고 문헌 25인용 수 6

한 줄 요약

이 논문은 알려지지 않은 변수들에 대한 다수의 간섭 데이터셋에서 목표 변수의 마르코프 블랭킷(MB)을 발견하기 위한 새로운 알고리즘 MIMB를 제안한다. 알려진 간섭 조건과 비동일한 분포 하에서의 식별 가능성 조건을 이론적으로 분석함으로써, MIMB는 간섭 데이터를 활용하여 MB뿐만 아니라 인과 방향(예: 부모와 자식을 구분하는 것)까지 복원할 수 있으며, 시뮬레이션 및 실제 데이터셋에서 기존 방법들보다 정확도와 효율성 면에서 뛰어나다.

ABSTRACT

In this paper, we study the problem of discovering the Markov blanket (MB) of a target variable from multiple interventional datasets. Datasets attained from interventional experiments contain richer causal information than passively observed data (observational data) for MB discovery. However, almost all existing MB discovery methods are designed for finding MBs from a single observational dataset. To identify MBs from multiple interventional datasets, we face two challenges: (1) unknown intervention variables; (2) nonidentical data distributions. To tackle the challenges, we theoretically analyze (a) under what conditions we can find the correct MB of a target variable, and (b) under what conditions we can identify the causes of the target variable via discovering its MB. Based on the theoretical analysis, we propose a new algorithm for discovering MBs from multiple interventional datasets, and present the conditions/assumptions which assure the correctness of the algorithm. To our knowledge, this work is the first to present the theoretical analyses about the conditions for MB discovery in multiple interventional datasets and the algorithm to find the MBs in relation to the conditions. Using benchmark Bayesian networks and real-world datasets, the experiments have validated the effectiveness and efficiency of the proposed algorithm in the paper.

연구 동기 및 목표

• 관측 데이터에만 의존하는 기존 마르코프 블랭킷 탐색 방법이 인과 방향을 추론하지 못하는 데서 비롯되는 격차를 해결하기 위해.
• 다수의 간섭 데이터셋이 목표 변수의 진정한 마르코프 블랭킷을 올바르게 복원할 수 있는 조건을 규명하기 위해.
• 목표 변수의 진정한 원인이 간섭 데이터에서 마르코프 블랭킷 탐색을 통해 식별될 수 있는 조건을 규명하기 위해.
• 알려지지 않은 간섭 변수를 가진 다수의 간섭 데이터셋에서 효율적이고 이론적으로 타당한 마르코프 블랭킷 탐색 알고리즘을 개발하기 위해.
• 기본 및 실제 데이터셋에서 제안된 방법을 검증하여 기존 접근법 대비 정확도와 효율성 향상을 입증하기 위해.

제안 방법

• 이론적 분석을 통해 알려지지 않은 간섭 조건 하에서 다수의 간섭 데이터셋에서 진정한 마르코프 블랭킷과 그 인과 구조(부모-자식 관계 포함)를 식별할 수 있는 조건를 확립한다.
• MIMB는 비동일한 분포를 가진 다수의 데이터셋 간의 조건부 인력성 테스트를 통합하며, 일관성 기반 접근법을 사용하여 MB와 간선 방향을 추론한다.
• 알고리즘은 간섭 유도 d-분리 패턴을 활용한다: 어떤 제3의 변수에 간섭을 가한 후에도 두 변수가 여전히 종속되어 있다면, 그 제3의 변수를 포함하는 인과 경로가 존재할 가능성이 있다.
• MIMB는 이중 단계 전략을 사용한다: 첫 번째 단계에서는 다수의 데이터셋을 통해 조건부 인력성 테스트를 수행하여 후보 MB 변수를 식별하고, 두 번째 단계에서는 간섭 효과(예: 원인이 간섭을 받은 후 독립성이 나타나는 경우)를 활용하여 인과 방향을 추론한다.
• 각 데이터셋을 별개의 간섭 맥락으로 간주하고, 모든 데이터셋 간 일관성 검사를 적용함으로써 비동일한 데이터 분포를 처리한다.
• 알고리즘은 확장성과 효율성을 고려하여, 가지치기와 조기 종료를 통해 조건부 인력성 테스트 횟수를 최소화하도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 다수의 간섭 데이터셋에서 목표 변수의 진정한 마르코프 블랭킷을 올바르게 탐색할 수 있는 간섭 설정은 어떤 경우인가?
• RQ2 다수의 간섭 데이터셋에서 목표 변수의 원인이 마르코프 블랭킷을 통해 식별될 수 있는 조건는 무엇인가?
• RQ3 알려지지 않은 간섭 변수를 가진 다수의 간섭 데이터셋에서 마르코프 블랭킷과 그 인과 구조를 효과적으로 탐색하는 방법은 무엇인가?
• RQ4 이러한 설정에서 마르코프 블랭킷 탐색과 인과 방향 식별의 정확성을 보장하는 이론적 조건는 무엇인가?
• RQ5 제안된 방법이 간섭 데이터에 적용되었을 때 기존의 마르코프 블랭킷 탐색 알고리즘보다 정확도와 효율성 면에서 뛰어나게 성능을 발휘할 수 있는가?

주요 결과

• MIMB는 나이브 베이즈를 사용하여 교육 데이터셋에서 가장 높은 분류 정확도(0.7494 ± 0.0173)를 기록했으며, He-Geng(0.7428 ± 0.0127)와 기준선(0.7461 ± 0.0136)을 모두 초월했다.
• MIMB는 He-Geng(24,877 ± 2,609회 평균 테스트)와 기준선(2,498 ± 996회 평균 테스트)보다 유의미하게 효율적이었으며, 평균 317 ± 105회 테스트만을 소비했다.
• 이 방법은 소득, fcollege, mcollege, 그리고 수업료가 교육에 중요한 영향을 미친다고 성공적으로 식별했으며, p-값 ≤ 0.0068로 강력한 통계적 유의성을 보였다.
• MIMB는 소득과 mcollege가 수업료보다 교육 성취도에 더 큰 영향을 미친다고 정확히 추론했으며, 도메인의 타당성과 일치했다.
• 비동일한 데이터 분포 하에서도 다수의 실행에서 교육의 마르코프 블랭킷을 높은 일관성으로 복원했으며, 이는 알고리즘이 뛰어난 안정성을 지녔음을 시사한다.
• 이론적 분석을 통해 특정 간섭 조건(예: 부모 또는 자식에 대한 간섭) 하에서는 다수의 간섭 데이터셋에서 진정한 마르코프 블랭킷과 인과 구조가 식별 가능하다는 것이 확인되었다.