[논문 리뷰] Causal Inference with Noisy and Missing Covariates via Matrix Factorization

Nathan Kallus, Xiaojie Mao외 1명|arXiv (Cornell University)|2018. 06. 03.

Advanced Causal Inference Techniques참고 문헌 31인용 수 25

한 줄 요약

이 논문은 관찰 연구에서 노이즈가 많고 누락되며 이질적인 공변량에서 잠재 공변량을 추론하기 위해 행렬 분해를 사용하는 방법을 제안하며, 원인 효과 추정의 편향을 크게 감소시킨다. 이 방법은 여러 원인 추론 기법에서 정확도를 향상시키며, 지수족 행렬 완성과 함께 선형 모델에서 일致성을 보이며, 합성 데이터와 임상 트윈 데이터에서 표준 보정 및 직접 추정보다 뛰어나다.

ABSTRACT

Valid causal inference in observational studies often requires controlling for confounders. However, in practice measurements of confounders may be noisy, and can lead to biased estimates of causal effects. We show that we can reduce the bias caused by measurement noise using a large number of noisy measurements of the underlying confounders. We propose the use of matrix factorization to infer the confounders from noisy covariates, a flexible and principled framework that adapts to missing values, accommodates a wide variety of data types, and can augment many causal inference methods. We bound the error for the induced average treatment effect estimator and show it is consistent in a linear regression setting, using Exponential Family Matrix Completion preprocessing. We demonstrate the effectiveness of the proposed procedure in numerical experiments with both synthetic data and real clinical data.

연구 동기 및 목표

• 측정 노이즈와 공변량 변수의 누락으로 인한 원인 추론 편향을 해결하기 위해.
• 많은 수의 노이즈가 많고 완전하지 않은 공변량에서 잠재 공변량을 추론하는 유연하고 원리적인 사전 처리 프레임워크를 개발하기 위해.
• 다양한 원인 추론 방법(예: 회귀, 매칭, 가중치 기법 등)과의 호환성을 확보하기 위해.
• 선형 모델 설정에서 행렬 분해 사전 처리를 통한 평균 치료 효과(Average Treatment Effect, ATE) 추정기의 일관성을 이론적으로 확립하기 위해.
• 합성 데이터와 실제 임상 데이터에서 표준 보정 및 직접 원인 추정과의 비교를 통해 방법의 강인성과 우수성을 실증적으로 검증하기 위해.

제안 방법

• 부분적으로 관측된 노이즈가 많은 공변량 행렬에 대해 행렬 분해를 적용하여 저질서 잠재 공변량 표현을 복원한다.
• 이 방법은 이질적인 데이터 유형(연속형, 범주형, 순서형)을 적절한 손실 함수와 함께 처리하기 위해 지수족 행렬 완성(Exponential Family Matrix Completion)을 사용한다.
• 일반화를 촉진하기 위해 핵노름 정규화를 사용한 저질서 행렬 근사 최적화를 통해 잠재 공변량을 추정한다.
• 추정된 공변량은 표준 원인 추론 방법(예: 회귀 조정, 성향 스코어 재가중, 매칭 등)의 입력으로 사용된다.
• 누락된 값은 사전 보정 없이 행렬 분해 단계에서 직접 처리되어 공변량 추정의 무결성을 유지한다.
• 이 방법은 모듈식이며 기존의 원인 추론 패키지와 원활하게 통합되어 즉시 사용이 가능하다.

실험 결과

연구 질문

• RQ1 관측되지 않은 공변량의 노이즈가 많은 대체 지표를 다수 가질 경우 원인 효과 추정의 편향을 줄일 수 있는가?
• RQ2 측정 오차와 누락 데이터가 존재하는 상황에서 행렬 분해 사전 처리가 평균 치료 효과(ATE) 추정기의 일관성과 정확도를 향상시키는가?
• RQ3 표준 보정 방법(예: 모드 보정, 다중 보정)과 비교했을 때 행렬 분해의 원인 효과 추정 정확도는 어떠한가?
• RQ4 선형 회귀를 초월해 다양한 원인 추론 기법과 효과적으로 조합될 수 있는가?
• RQ5 잠재 공변량을 복원하기 위해 행렬 분해를 사용할 경우 ATE 추정기의 이론적 수렴 속도는 어떠한가?

주요 결과

• 행렬 분해 사전 처리를 통해 노이즈가 많고 누락되며 이질적인 공변량에서 잠재 공변량을 정확히 복원함으로써 ATE 추정의 편향이 크게 감소한다.
• 지수족 행렬 완성으로 사전 처리한 경우 선형 회귀 설정에서 행렬 분해에 의해 유도된 ATE 추정기는 일관성이 있다.
• 합성 데이터셋에서 행렬 분해는 다중 보정 및 모드 보정을 포함한 모든 기준 방법보다 뛰어나며, 특히 높은 누락률과 노이즈 조건에서 성능이 뛰어나다.
• 실제 임상 트윈 데이터셋에서 행렬 분해 사전 처리 방법은 테스트된 모든 원인 추론 방법(로지스틱 회귀, 매칭, 이중으로 강건한 추정기 등)에서 직접 원인 추정 및 표준 보정을 일관되게 능가했다.
• 누락 데이터 비율이 30%까지 강인하게 작동했으며, 수시 보정 및 다섯 번의 보정을 사용한 최첨단 다중 보정(MICE)보다 성능이 뛰어났다.
• 행렬 분해 문헌에서 일반적으로 가정하는 i.i.d. 노이즈 가정을 위반하는 노이즈 메커니즘 조건에서도 정확한 원인 효과 추정이 가능했다.