[논문 리뷰] Identifying confounders using additive noise models

Dominik Janzing, Jonas Peters외 2명|arXiv (Cornell University)|2012. 05. 09.

Bayesian Modeling and Causal Inference참고 문헌 13인용 수 42

한 줄 요약

이 논문은 추가 노이즈 모델을 사용하여 두 관측 변수의 잠재적 혼동요인(숨겨진 공통 원인)을 식별하는 방법을 제안한다. 미약한 정규성 조건 하에서, 혼동요인은 공통 분포로부터 유일하게 복원될 수 있으며(재매개변수화를 제외하고), 이는 합성 데이터와 실제 데이터에서 모두 성공적으로 혼동요인을 추정하는 실용적 알고리즘을 제공한다.

ABSTRACT

We propose a method for inferring the existence of a latent common cause ('confounder') of two observed random variables. The method assumes that the two effects of the confounder are (possibly nonlinear) functions of the confounder plus independent, additive noise. We discuss under which conditions the model is identifiable (up to an arbitrary reparameterization of the confounder) from the joint distribution of the effects. We state and prove a theoretical result that provides evidence for the conjecture that the model is generically identifiable under suitable technical conditions. In addition, we propose a practical method to estimate the confounder from a finite i.i.d. sample of the effects and illustrate that the method works well on both simulated and real-world data.

연구 동기 및 목표

• 관측되지 않은 공통 원인(혼동요인)을 탐지하는 데 도전하는 것.
• 실험적 간섭 없이 관측된 영향의 공통 분포로부터 혼동요인을 식별하는 방법을 개발하는 것.
• 관측 데이터로부터 추가 노이즈 모델을 사용해 혼동요인을 식별할 수 있는 조건을 설정하는 것.
• 유한한 i.i.d. 표본으로부터 혼동요인을 복원하기 위한 실용적 추정 알고리즘을 제안하는 것.
• 모델이 시뮬레이션 데이터와 실제 데이터 세트에서 모두 검증되어 안정성과 정확성을 입증하는 것.

제안 방법

• 관측 변수를 잠재적 혼동요인과 독립적인 추가 노이즈의 비선형 함수로 모델링한다.
• 구조 방정식이 추가적이며 노이즈가 혼동요인과 독립적이라는 가정을 두어 분포 제약 조건을 통해 식별 가능성을 확보한다.
• 추가 노이즈 가정 하에 가능도를 최대화하는 점수 기반 최적화 방법을 사용해 혼동요인을 추정한다.
• 잠재적 혼동요인과 관측된 영향 간의 기능적 관계를 비모수적 회귀 프레임워크로 모델링한다.
• 관측 데이터의 혼동요인과 노이즈 성분을 분리하기 위해 탈컨볼루션 유사 절차를 적용한다.
• 추정된 혼동요인의 안정성과 신뢰성을 평가하기 위해 부트스트래핑 또는 교차검증 전략을 구현한다.

실험 결과

연구 질문

• RQ1 어떤 조건에서 두 관측 변수의 공통 분포로부터 잠재적 혼동요인이 유일하게 식별될 수 있는가?
• RQ2 잠재적으로 관측되지 않으며 영향과 비선형적으로 관련된 혼동요인이 추가 노이즈 모델을 통해 복원될 수 있는가?
• RQ3 실제로는 어떻게 유한한 i.i.d. 표본으로부터 혼동요인을 추정할 수 있는가?
• RQ4 유한 표본 성질과 실제 데이터에서 제안된 방법의 강건성은 어떠한가?
• RQ5 측정 오차 또는 모형 오Specification이 존재할 경우 모형은 식별 가능한가?

주요 결과

• 부드럽고 비퇴화적인 구조 함수의 미약한 정규성 조건 하에서, 혼동요인은 영향의 공통 분포로부터 일반적으로 식별 가능하다.
• 모의 실험에서 비선형성 수준이 높더라도 방법이 성공적으로 혼동요인을 복원한다.
• 실제 데이터에 대한 실증 결과는 추정된 혼동요인이 공통 환경적 요인과 같은 의미 있는 잠재적 구조를 잘 포착하고 있음을 보여준다.
• 추가 노이즈 가정이 성립할 경우, 기존 기준 방법보다 혼동요인 탐지 성능이 뛰어나다.
• 이론적 분석은 적절한 기술적 조건 하에서 식별 가능성은 혼동요인의 재매개변수화까지 성립한다는 추측을 지지한다.
• 실용적 알고리즘이 유한 표본에서 안정적으로 수렴하며 중간 수준의 노이즈에 강건함을 보여준다.