[논문 리뷰] Causal Discovery with General Non-Linear Relationships Using Non-Linear ICA

Ricardo Pio Monti, Kun Zhang외 1명|Työväentutkimus Vuosikirja|2019. 04. 19.

Blind Source Separation Techniques참고 문헌 25인용 수 13

한 줄 요약

이 논문은 비선형 ICA를 활용하여 일반적인 비선형 관계에 대한 새로운 인과 발견 방법을 제안한다. 실험 조건 간 비정상성에 기반해 추가 노이즈나 선형성 가정 없이 인과 방향을 특정한다. 이 방법은 독립성 검정과 우도 비율 근사치를 사용하여 인과 구조를 추론하며, 시뮬레이션과 실제 fMRI 데이터에서 뛰어난 성능을 보이며, 다변량 설정에서 기존 방법들을 능가한다.

ABSTRACT

We consider the problem of inferring causal relationships between two or more passively observed variables. While the problem of such causal discovery has been extensively studied especially in the bivariate setting, the majority of current methods assume a linear causal relationship, and the few methods which consider non-linear dependencies usually make the assumption of additive noise. Here, we propose a framework through which we can perform causal discovery in the presence of general non-linear relationships. The proposed method is based on recent progress in non-linear independent component analysis and exploits the non-stationarity of observations in order to recover the underlying sources or latent disturbances. We show rigorously that in the case of bivariate causal discovery, such non-linear ICA can be used to infer the causal direction via a series of independence tests. We further propose an alternative measure of causal direction based on asymptotic approximations to the likelihood ratio, as well as an extension to multivariate causal discovery. We demonstrate the capabilities of the proposed method via a series of simulation studies and conclude with an application to neuroimaging data.

연구 동기 및 목표

• 기존 인과 발견 방법이 비선형 관계에서 선형성 또는 가산 노이즈 가정과 같은 제한적인 가정에 의존하는 데서 비롯되는 한계를 해결하기 위해.
• 일반적인 비선형 구조 방정식 모델(SEM) 하에서 이변량 및 다변량 인과 발견을 위한 일반적 프레임워크를 개발하기 위해.
• 비선형·비가산 모델에서 인과 방향의 식별 가능성을 보장하기 위해 실험 조건 간 비정상성을 인과 발견의 근거로 활용하기 위해.
• 기능 형태나 노이즈 분포에 대한 사전 지식이 필요 없도록 하여 관측 데이터에 광범위하게 적용 가능하도록 하기 위해.
• 합성 데이터와 실제 신경영상 데이터에서의 검증을 통해 강인성과 실용적 유용성을 입증하기 위해.

제안 방법

• 관측 데이터를 다수의 실험 조건에서 수집한 자료로부터 잠재 소스 또는 교란 요소를 복원하는 데 비선형 ICA를 기반으로 한 방법을 사용한다.
• 다양한 실험 제어 조건에 의해 유도된 비정상성을 활용하여, 관측 변수와 추정된 소스 간의 독립성 검정을 통해 잠재 인과 구조를 식별한다.
• 독립성 검정의 대안으로 우도 비율 기반 측도를 제안하며, 渐近 근사치를 사용해 인과 방향을 평가한다.
• 딥 뉴럴 네트워크를 활용한 NonSENS(비선형 소스 추정을 위한 구조)를 사용해 비방향 엣지를 해소하는 방식으로 다변량 인과 발견으로 확장한다.
• 혼합 행렬이 실험 조건에 따라 변할 것이라는 가정을 두어, 소스 복원을 통해 인과 순서를 식별할 수 있도록 한다.
• 비선형 ICA와 비선형 SEM 간의 대응 관계를 활용하며, 잠재 소스의 비정상성으로부터 인과 방향을 추론한다.

실험 결과

연구 질문

• RQ1 가산 노이즈나 선형성 가정 없이 일반적인 비선형 SEM에서 인과 방향을 식별할 수 있는가?
• RQ2 실험 조건 간 비정상성이 비선형 모델에서 인과 발견의 식별 가능성을 제공할 수 있는가?
• RQ3 비선형·비가산적 관계 하에서 기존 방법들인 PC, RESIT, CD-NOD와 비교해 정확도와 강인성 면에서 제안된 방법은 어떻게 성과를 내는가?
• RQ4 정확한 진실 구조가 없는 고차원 실세계 신경영상 데이터에서 인과 구조를 효과적으로 복원할 수 있는가?
• RQ5 우도 비율 근사치는 인과 방향 추론을 위한 독립성 검정의 신뢰성 있고 효율적인 대안이 될 수 있는가?

주요 결과

• 제안된 방법은 6차원 데이터에서 기존 방법들인 PC 및 RESIT보다 다변량 인과 발견에서 뛰어난 성능을 보이며, 혼합-DNN의 모든 깊이(l=1에서 5)에서 높은 F1 스코어를 달성한다.
• 알려진 인과 효과가 있는 이변량 설정에서는 우도 비율 기반 측도가 다른 알고리즘보다 뚜렷이 뛰어나며, 실험 조건 수가 증가할수록 성능 향상이 두드러진다.
• 인과 구조가 존재하지 않는 경우(순환 케이스), 모든 방법이 보수적으로 작동하지만, 제안된 방법은 보너페리 보정 하에 95%의 확률로 모호한(결론 불가) 구조를 정확히 식별한다.
• 휴식 상태 fMRI 데이터에서 해부학적으로 타당한 방향성 연결을 성공적으로 복원하였으며, 파란색(가능성 있음) 엣지 중 85%가 알려진 해부학적 연결과 일치하고, 빨간색(불가능함) 엣지 중 15%만 예측되었다.
• 관측 수가 증가하는 조건에서도 제안된 방법은 경쟁력을 유지하며 고표본 환경에서의 강인성을 보였다.
• NonSENS 확장은 다변량 케이스에서 비방향 엣지를 효과적으로 해소하여, 조건부 독립에만 의존하는 PC 알고리즘보다 성능이 향상되었다.