[论文解读] Causal Matrix Completion

Anish Agarwal, Munther A. Dahleh+2 more|arXiv (Cornell University)|Sep 30, 2021

Sparse and Compressive Sensing Techniques被引用 10

一句话总结

本文提出了一种因果矩阵补全框架，通过潜在结果和混杂因素建模缺失机制，解决了缺失非随机（MNAR）数据的问题。该框架引入了合成最近邻（SNN）算法，实现了有限样本一致性与渐近正态性，在合成数据与真实世界推荐系统及面板数据场景中均优于标准方法。

ABSTRACT

Matrix completion is the study of recovering an underlying matrix from a sparse subset of noisy observations. Traditionally, it is assumed that the entries of the matrix are "missing completely at random" (MCAR), i.e., each entry is revealed at random, independent of everything else, with uniform probability. This is likely unrealistic due to the presence of "latent confounders", i.e., unobserved factors that determine both the entries of the underlying matrix and the missingness pattern in the observed matrix. For example, in the context of movie recommender systems -- a canonical application for matrix completion -- a user who vehemently dislikes horror films is unlikely to ever watch horror films. In general, these confounders yield "missing not at random" (MNAR) data, which can severely impact any inference procedure that does not correct for this bias. We develop a formal causal model for matrix completion through the language of potential outcomes, and provide novel identification arguments for a variety of causal estimands of interest. We design a procedure, which we call "synthetic nearest neighbors" (SNN), to estimate these causal estimands. We prove finite-sample consistency and asymptotic normality of our estimator. Our analysis also leads to new theoretical results for the matrix completion literature. In particular, we establish entry-wise, i.e., max-norm, finite-sample consistency and asymptotic normality results for matrix completion with MNAR data. As a special case, this also provides entry-wise bounds for matrix completion with MCAR data. Across simulated and real data, we demonstrate the efficacy of our proposed estimator.

研究动机与目标

• 解决传统矩阵补全方法假设缺失完全随机（MCAR）的局限性，因为潜在混杂因素的存在使得该假设往往不现实。
• 将矩阵补全问题建模为因果推断问题，利用潜在结果来考虑由未观测因素驱动的缺失机制。
• 开发一种方法，识别并校正由于混杂因素导致的缺失非随机（MNAR）所引入的偏差。
• 在MNAR机制下建立理论保证——有限样本一致性与渐近正态性。
• 在推荐系统与面板数据等多样化场景中展示稳健性能，这些场景中标准方法因选择偏差而失效。

提出的方法

• 在潜在结果框架内形式化矩阵补全，将观测到的条目标记为不同缺失机制下的潜在结果。
• 引入合成最近邻（SNN）算法，利用锚定行与列来估计在MNAR缺失机制下的反事实条目。
• 使用最大团搜索算法自动识别锚定行与列，作为插补的参考点。
• 引入合成控制机制，构建对缺失过程中混杂因素具有鲁棒性的最近邻估计。
• 在温和正则性条件下（包括正性与重叠假设）建立理论一致性与渐近正态性。
• 无需辅助协变量，使得SNN适用于缺乏此类数据的场景。

实验结果

研究问题

• RQ1 如何将矩阵补全重新解释为因果推断问题，以校正由缺失非随机（MNAR）数据引入的偏差？
• RQ2 在缺失依赖于未观测混杂因素时，矩阵补全中因果 estimands 的识别条件是什么，以确保其可一致估计？
• RQ3 能否设计一种矩阵补全算法，在缺失模式为内生性的情况下，仍能实现有限样本一致性与渐近正态性？
• RQ4 在存在MNAR数据与混杂因素的场景中，SNN与标准矩阵补全方法（如SVD、softImpute、KNN）相比表现如何？
• RQ5 SNN在不同类型缺失机制下的泛化能力如何，包括违反正性与独立性假设的情形？

主要发现

• 在模拟与真实世界面板数据实验中，SNN在RMSE与MAE指标上显著优于SVD、softImpute与KNN等基线方法。
• 在加州烟草控制研究中，SNN的平均RMSE与MAE均低于所有基线方法，仅KNN表现相近，但KNN是专门的差分中差分估计器。
• 即使在正性与独立性假设被违反时，SNN仍保持优异性能，展现出对复杂MNAR机制的鲁棒性。
• 理论分析建立了在MNAR下矩阵补全的条目级（最大范数）有限样本一致性与渐近正态性，这是文献中的新贡献。
• 该方法无需辅助协变量即可实现一致性，与部分竞争方法不同，从而增强了其实际适用性。
• SNN在推荐系统与计量经济学面板数据等多种场景中表现稳健，证实了其良好的泛化能力。