[논문 리뷰] Discovering causal structures in binary exclusive-or skew acyclic models

Takanori Inazumi, Takashi Washio외 4명|arXiv (Cornell University)|2011. 07. 14.

Bayesian Modeling and Causal Inference참고 문헌 17인용 수 6

한 줄 요약

이 논문은 관측 데이터에서 원인 구조를 식별하기 위해 비대칭 베르누이 분포를 사용하는 이산 이진 데이터를 위한 새로운 원인 모델을 제안한다. 외부 노이즈의 비정규성 특성을 활용함으로써, 비대칭 비순환 모델에서 식별 가능한 원인 발견을 달성하며, 인위적 및 실제 이진 데이터셋 모두에서 뛰어난 성능을 보여준다.

ABSTRACT

Discovering causal relations among observed variables in a given data set is a main topic in studies of statistics and artificial intelligence. Recently, some techniques to discover an identifiable causal structure have been explored based on non-Gaussianity of the observed data distribution. However, most of these are limited to continuous data. In this paper, we present a novel causal model for binary data and propose a new approach to derive an identifiable causal structure governing the data based on skew Bernoulli distributions of external noise. Experimental evaluation shows excellent performance for both artificial and real world data sets.

연구 동기 및 목표

• 이산 이진 데이터에 대한 원인 발견 기법의 격차를 보완하기 위해, 특히 연속적인 비정규성 가정이 적용되지 않는 경우에 대비한다.
• 외부 노이즈가 비대칭 분포를 띠는 이진 배타적-또는 시스템에서 식별 가능한 구조 학습을 가능하게 하는 원인 모델을 개발한다.
• 이전에 연속 데이터에 국한되어 있던 비정규성 기반 원인 발견 기법을 이산적, 이진 설정으로 확장한다.
• 기본 구조가 알려진 인위적 데이터와 실제 이진 데이터셋에서 제안된 방법을 검증한다.

제안 방법

• 논문은 결과가 부모 변수의 논리적 XOR에 더해진 노이즈에 의해 결정되는 이진 배타적-또는(XOR) 비대칭 비순환 모델을 도입한다.
• 비대칭성과 비정규성 특성을 포착하기 위해 외부 노이즈를 비대칭 베르누이 분포로 모델링한다.
• 노이즈의 비정규성 특성을 활용하여 원인-결과 관계를 구분함으로써 진정한 원인 그래프를 식별할 수 있다.
• 점수 기반 또는 제약 기반 학습 알고리즘을 적용하여 비대칭 베르누이 노이즈 모델과 일치하는 원인 구조를 탐색한다.
• 비정규성 노이즈 제약 조건을 만족하는 원인 방향은 유일하므로, 유일한 구조 식별이 보장된다.
• 가장 유력한 원인 구조를 순위 매기고 선택하기 위해 가능도 기반 또는 독립성 검정 기준을 사용하여 방법을 평가한다.

실험 결과

연구 질문

• RQ1 비정규성 노이즈 가정을 사용하여 이진 배타적-또는 모델에서 식별 가능한 원인 구조를 발견할 수 있는가?
• RQ2 왜 비대칭 베르누이 분포를 띠는 외부 노이즈가 이진 데이터에서 원인 방향을 식별하는 데 기여하는가?
• RQ3 제안된 방법은 기존의 원인 발견 기법보다 기저 구조가 알려진 이진 데이터셋에서 더 뛰어난 성능을 보이는가?
• RQ4 진짜 원인 구조가 알려지지 않은 실제 이진 데이터셋에 대해 이 방법은 얼마나 일반화 가능한가?

주요 결과

• 제안된 방법은 높은 정확도로 인위적 이진 XOR 모델에서 정확한 원인 구조를 식별한다.
• 비대칭 베르누이 노이즈의 사용은 표준 이진 모델에서 흔한 대칭 문제를 해결하며 원인 방향을 고유하게 식별할 수 있게 한다.
• 실제 이진 데이터셋에서도 뛰어난 성능을 보이며, 기저 모델 대비 원인 구조 복원에서 슈퍼리어한 성능을 보인다.
• 결과는 이산적, 이진 설정에서도 외부 노이즈의 비정규성이 식별 가능성에 충분하다는 것을 확인한다.