[논문 리뷰] Causal Matrix Completion

Anish Agarwal, Munther A. Dahleh외 2명|arXiv (Cornell University)|2021. 09. 30.

Sparse and Compressive Sensing Techniques인용 수 10

한 줄 요약

이 논문은 잠재적 결과와 혼동요인을 통해 결측을 모델링함으로써 비우연적 결측(MNAR) 데이터를 다루는 인과적 행렬 완성 프레임워크를 제안한다. 이는 유한표본 일致성과 점근적 정규성을 확보하는 Synthetic Nearest Neighbors(SNN) 알고리즘을 도입하며, 시뮬레이션 및 실세계 추천 시스템과 패널 데이터 설정에서 기존 방법들을 능가한다.

ABSTRACT

Matrix completion is the study of recovering an underlying matrix from a sparse subset of noisy observations. Traditionally, it is assumed that the entries of the matrix are "missing completely at random" (MCAR), i.e., each entry is revealed at random, independent of everything else, with uniform probability. This is likely unrealistic due to the presence of "latent confounders", i.e., unobserved factors that determine both the entries of the underlying matrix and the missingness pattern in the observed matrix. For example, in the context of movie recommender systems -- a canonical application for matrix completion -- a user who vehemently dislikes horror films is unlikely to ever watch horror films. In general, these confounders yield "missing not at random" (MNAR) data, which can severely impact any inference procedure that does not correct for this bias. We develop a formal causal model for matrix completion through the language of potential outcomes, and provide novel identification arguments for a variety of causal estimands of interest. We design a procedure, which we call "synthetic nearest neighbors" (SNN), to estimate these causal estimands. We prove finite-sample consistency and asymptotic normality of our estimator. Our analysis also leads to new theoretical results for the matrix completion literature. In particular, we establish entry-wise, i.e., max-norm, finite-sample consistency and asymptotic normality results for matrix completion with MNAR data. As a special case, this also provides entry-wise bounds for matrix completion with MCAR data. Across simulated and real data, we demonstrate the efficacy of our proposed estimator.

연구 동기 및 목표

• 결측이 완전히 무작위(MCAR)임을 가정하는 전통적 행렬 완성 방법의 한계를 해결하기 위해, 잠재적 혼동요인이 존재할 경우 이는 일반적으로 현실적이지 않다.
• 결측이 관측되지 않은 요인에 의해 유도될 수 있음을 고려하기 위해 잠재적 결과를 사용하여 행렬 완성을 인과적 추론 문제로 재정의한다.
• 결측이 혼동요인에 의해 유도되는 비우연적 결측(MNAR) 상황에서 발생하는 편향을 식별하고 수정할 수 있는 방법을 개발한다.
• MNAR 메커니즘 하에서 행렬 완성에 대해 유한표본 일치성과 점근적 정규성을 보장하는 이론적 보장을 수립한다.
• 표현형 추천 시스템과 경제 패널 데이터 등 다양한 환경에서 표준 방법이 선택 편향으로 인해 실패하는 상황에서도 강건한 성능을 보여준다.

제안 방법

• 관측된 항목을 다양한 결측 메커니즘 하에서의 잠재적 결과로 간주함으로써 잠재적 결과 프레임워크 내에서 행렬 완성을 정식화한다.
• SNN 알고리즘을 도입하여 앵커 행과 열을 활용해 MNAR 결측 상황에서의 반사적 항목을 추정한다.
• 최대 이분 클리크 탐색을 통해 알고리즘적으로 앵커 행과 열을 식별하며, 이는 보간의 기준점으로 기능한다.
• 합성 대조 기반 메커니즘을 통합하여 결측 과정에서의 혼동요인에 강건한 최근접이웃 추정을 구축한다.
• 적당한 정규성 조건(예: 양성 조건 및 오버랩 조건 포함) 하에서 이론적 일치성과 점근적 정규성을 확립한다.
• 보조 공변량이 필요로 하지 않아, 이러한 데이터가 확보되지 않은 환경에서도 SNN를 적용 가능하게 한다.

실험 결과

연구 질문

• RQ1 비우연적 결측(MNAR) 데이터에 의해 유도되는 편향을 수정하기 위해 어떻게 행렬 완성을 인과적 추론 문제로 재해석할 수 있는가?
• RQ2 결측이 관측되지 않은 혼동요인에 의존할 경우, 인과적 추정량이 일관되게 추정될 수 있는 식별 조건는 무엇인가?
• RQ3 결측 패턴이 내생적일 경우에도, 유한표본 일치성과 점근적 정규성을 확보할 수 있는 행렬 완성 알고리즘을 설계할 수 있는가?
• RQ4 SNN의 성능은 SVD, softImpute, KNN와 같은 표준 행렬 완성 방법과 비교해 비우연적 결측 데이터 및 혼동요인이 존재하는 환경에서 어떻게 나타나는가?
• RQ5 SNN는 양성 조건 및 독립성 가정을 위반하는 경우에도 다양한 유형의 결측 메커니즘으로 일반화되는 정도는 어느 정도인가?

주요 결과

• SNN는 시뮬레이션 및 실세계 패널 데이터 실험 전반에서 SVD, softImpute, KNN 등의 베이스라인 방법보다 RMSE 및 MAE 측면에서 뚜렷이 뛰어나다.
• 캘리포니아 담배 통제 연구에서 SNN는 모든 베이스라인보다 평균 RMSE와 MAE가 낮았으며, KNN만이 유사한 성능를 보였지만, KNN는 특수한 차이의 차이 추정기임을 감안하면 SNN의 우월성이 더욱 두드러진다.
• SNN는 양성 조건 및 독립성 가정이 위반되는 경우에도 강건한 성능를 유지하여 복잡한 MNAR 메커니즘에 대한 강건성을 입증한다.
• 이론적 분석을 통해 MNAR 하에서의 행렬 완성에 대해 항목별(최대노름 기준) 유한표본 일치성과 점근적 정규성을 확립하였으며, 이는 문헌에 새로운 기여이다.
• 보조 공변량이 필요로 하지 않아 일부 경쟁 방법과 달리 실용적 적용 가능성이 높다.
• SNN는 추천 시스템과 경제 패널 데이터 등 다양한 환경에서 강건한 성능를 보이며, 일반화 능력을 확인한다.