[논문 리뷰] Telling cause from effect based on high-dimensional observations

Dominik Janzing, Patrik O. Hoyer외 1명|ArXiv.org|2009. 09. 24.

Bayesian Modeling and Causal Inference참고 문헌 12인용 수 39

한 줄 요약

이 논문은 원인과 결과 기계의 독립적 표본 추출에 의해 유도되는 공분산 구조의 비대칭성을 이용하여 고차원 변수 간의 인과 방향을 추론하는 방법을 제안한다. 원인의 공분산 행렬에 대한 직교 변환 하에서 효과의 공분산 행렬의 일반성(typicality)을 분석함으로써, 차원 수가 충분할 경우 선형, 가우시안, 또는 결정론적 설정에서도 높은 정확도로 진정한 인과 방향을 식별할 수 있다.

ABSTRACT

We describe a method for inferring linear causal relations among multi-dimensional variables. The idea is to use an asymmetry between the distributions of cause and effect that occurs if both the covariance matrix of the cause and the structure matrix mapping cause to the effect are independently chosen. The method works for both stochastic and deterministic causal relations, provided that the dimensionality is sufficiently high (in some experiments, 5 was enough). It is applicable to Gaussian as well as non-Gaussian data.

연구 동기 및 목표

• 기존 인과 발견 방법이 마르코프 등가 인과 그래프를 구별하는 데에 초래하는 근본적 한계를 해결하기 위해.
• 조건부 인dependence 가정이 붕괴되는 결정론적 또는 가우시안 선형 설정에서 표준 방법이 실패하는 문제를 극복하기 위해.
• 비가우시안성이나 가감 노이즈를 요구하지 않고, 고차원 공분산 구조에 기반하여 인과 추론 방법을 개발하기 위해.
• 조건부 확률에 대한 명시적 사전 확률을 요구하지 않는 대칭 기반 기준을 인과 방향에 적용하기 위해.
• 모의 실험과 실제 고차원 데이터(이미지 처리 작업 포함)를 통해 방법의 유효성을 검증하기 위해.

제안 방법

• 관측된 효과 변수의 공분산 행렬이 원인 공분산 행렬의 직교 변환 하에서 일반적인지 여부를 시험하는 방법.
• 직교 변환에 따른 변환된 공분산 행렬의 트레이스를 기반으로 한 검정 통계량 Δ를 정의하여, 그룹 작용 하에서의 일반성에서의 이탈 정도를 측정.
• 효과의 공분산 행렬이 변환된 원인 공분산의 궤도(orbit)와 비교해 비일반적일 경우, 인과 가설 X→Y를 기각.
• 원인의 공분산과 인과 기계 행렬을 독립적으로 표본 추출할 경우, 역방향에서 비일반적인 관계가 발생한다는 사실을 활용.
• 고차원에서의 대수법칙을 활용하여, 전방 방향(원인 → 결과)은 일반성을 만족하지만, 역방향은 그렇지 않음을 보여줌.
• 이 방법은 스토케스틱 및 결정론적 선형 관계에 모두 적용 가능하며, 차원 수가 충분히 높을 경우 가우시안 및 비가우시안 데이터에 대해서도 성능을 발휘함.

실험 결과

연구 질문

• RQ1 데이터가 가우시안이거나 결정론적일 경우에도 고차원 선형 시스템에서 인과 방향을 신뢰성 있게 추론할 수 있는가?
• RQ2 고차원 설정에서 원인과 결과를 구별하는 데에 공분산 구조의 통계적 비대칭성이 존재하는가?
• RQ3 원인에 대한 직교 변환 하에서 효과의 공분산 행렬의 일반성은 인과 방향 결정 기준으로 사용될 수 있는가?
• RQ4 신뢰성 또는 비가우시안성 가정이 실패하는 경우 기존 방법보다 이 방법이 우수한가?
• RQ5 이미지와 같이 알려진 인과 구조를 가진 실제 고차원 데이터에 이 방법을 적용할 수 있는가?

주요 결과

• 합성 필터와 블러링을 적용한 숫자 이미지 데이터를 사용한 실험에서, 100개의 테스트 케이스 중 94개에서 원본 이미지를 정확히 복원함.
• 고차원 설정에서 전방 방향(원인 → 결과)은 직교 변환 하에서 일반적인 공분산 구조를 보이며, 반대로 역방향은 비일반적이고 균형 잃은 관계를 보임.
• 전통적 방법이 실패하는 결정론적 선형 관계 및 가우시안 설정에서도 이 방법은 잘 작동함.
• 이론적 분석을 통해 원인의 공분산과 기계 행렬을 독립적으로 표본 추출할 경우, 역방향에서 비일반적인 관계가 발생함을 밝힘.
• 실험 결과, 트레이스 기반 검정 통계량 Δ가 역방향에서 심하게 편향됨을 확인하여 비대칭성이 감지 가능함을 입증함.
• 밀도 기반 사전 확률이나 비가우시안성에 의존하지 않는 대칭 기반, 사전 확률이 없는 인과 방향 기준을 제공함.