[논문 리뷰] Causal Discovery in the Presence of Measurement Error: Identifiability Conditions

Kun Zhang, Mingming Gong외 4명|arXiv (Cornell University)|2017. 06. 10.

Bayesian Modeling and Causal Inference참고 문헌 11인용 수 20

한 줄 요약

이 논문은 알려지지 않은 측정 오차에 의해 오염된 관측 데이터로부터 측정 오차가 없는 변수의 원인 구조를 복원하기 위한 충분한 식별 조건를 설정한다. 두 번째 순서 통계(요인 분석)와 고차 통계(과잉 결정성 ICA)를 활용하여, 저자들은 특정 구조적 및 분포적 가정 하에서 오차 분산이 알려지지 않은 상태에서도 기저의 원인 DAG가 완전히 또는 부분적으로 식별 가능하다고 보여준다.

ABSTRACT

Measurement error in the observed values of the variables can greatly change the output of various causal discovery methods. This problem has received much attention in multiple fields, but it is not clear to what extent the causal model for the measurement-error-free variables can be identified in the presence of measurement error with unknown variance. In this paper, we study precise sufficient identifiability conditions for the measurement-error-free causal model and show what information of the causal model can be recovered from observed data. In particular, we present two different sets of identifiability conditions, based on the second-order statistics and higher-order statistics of the data, respectively. The former was inspired by the relationship between the generating model of the measurement-error-contaminated data and the factor analysis model, and the latter makes use of the identifiability result of the over-complete independent component analysis problem.

연구 동기 및 목표

• 측정 오차가 없는 변수의 원인 모델이 관측된 오차로 오염된 데이터로부터 어떤 조건에서 식별될 수 있는지 규명하는 것.
• 기본적인 원인 발견 방법이 측정 오차가 존재하고 그 분산이 알려지지 않은 경우에 실패하는 문제를 다루는 것.
• 진짜 원인 구조(예: DAG로 표현됨)가 알려지지 않은 측정 오차가 있는 관측 데이터로부터 복원될 수 있는 이론적 조건을 개발하는 것.
• 다양한 가정 하에서 원인 모델의 어떤 측면(예: 동치 클래스, 잎 노드, 순차적 그룹 분해)이 식별 가능한지 명확히 하는 것.
• 측정 오차에 강건한 실용적 원인 발견 알고리즘 설계를 위한 기초를 마련하는 것.

제안 방법

• 관측 데이터의 두 번째 순서 통계를 사용하여 요인 분석 모델과의 연결을 통해 식별 조건를 유도한다.
• 비정규성과 과잉 결정성 독립 성분 분석(ICA)을 적용하여 측정 오차가 있는 상황에서도 잠재 성분을 복원한다.
• 이중 단계 알고리즘을 제안: 먼저 요인 분석 또는 ICA를 사용해 캐논리컬 표현을 추정하고, 그 다음 추정된 성분에 대해 원인 발견을 적용한다.
• 식별 가능성을 가능하게 하기 위해 원인 충분성과 측정 오차가 없는 모델의 선형성과 같은 구조적 가정을 도입한다.
• 비정규성 하에서 변수 그룹 간 원인 순서를 식별하기 위해 순차적 그룹 분해를 활용한다.
• 대규모 표본 데이터에서 제안된 방법을 테스트하고 검증하여 복원 절차의 渐近 일致성을 입증한다.

실험 결과

연구 질문

• RQ1 측정 오차가 없는 변수의 원인 구조가 알려지지 않은 측정 오차 분산이 있는 관측 데이터로부터 어떤 조건에서 완전히 식별될 수 있는가?
• RQ2 두 번째 순서 통계(공분산 구조)와 고차 통계(비정규성)가 측정 오차가 있는 상황에서 식별 가능성에 어떻게 기여하는가?
• RQ3 측정 오차가 존재하고 관측되지 않을 때, 원인 마르코프 동치 클래스, 잎 노드, 또는 순차적 그룹 분해는 어느 정도 복원될 수 있는가?
• RQ4 오차 분산에 대한 사전 지식이 없이도 원인 구조를 식별할 수 있는가? 추가로 필요한 가정은 무엇인가?
• RQ5 비정규성이 기저의 원인 모델의 완전한 식별성 달성에 어떤 역할을 하는가?

주요 결과

• 가정 A0, A1, A2 하에서 두 번째 순서 통계를 사용할 경우 원인 모델은 마르코프 동치 클래스까지 식별 가능하며, 잎 노드도 식별 가능하다.
• 비정규성과 가정 A0, A4, A1, A2 하에서 전체 원인 DAG는 오차 분산이 알려지지 않은 상태에서도 완전히 식별 가능하다.
• 가정 A0, A4, A1 하에서 순차적 그룹 분해(그룹 간 원인 순서 포함)는 식별 가능하다(정리 10).
• 비정규성이 존재하고 잎 노드에 대해 적어도 A5, A6, 또는 A7 중 하나가 성립할 경우, 순차적 그룹 분해와 잎 노드는 식별 가능하다(정리 11–13).
• 비잎 노드의 식별 가능성은 적어도 A5, A6, 또는 A7 중 하나가 성립해야 한다고 추측되나, 아직 증명되지 않았다.
• A0(원인 마르코프 조건 및 비결정적 충실성)를 제외한 모든 가정은 관측 데이터로부터 실증적으로 검증 가능하여 실용적 알고리즘 개발을 가능하게 한다.