[论文解读] A Different Approach to the Problem of Missing Data

Gu Xiao, Norman Matloff|arXiv (Cornell University)|Sep 16, 2015

Statistical Methods and Bayesian Inference参考文献 5被引用 3

一句话总结

本文重新評估了可用案例（AC）作為處理回歸、主成分分析和對數線性模型中缺失數據的完整案例（CC）和多重插補（MI）的可行替代方法。結果顯示，在 Missing Completely at at Random（MCAR）假設下，AC 在統計準確性上優於 CC，且在 Missing at Random（MAR）假設下對關聯模型依然有效，同時其運算速度遠超 MI，且表現相當或更優。

ABSTRACT

There is a long history of devleopment of methodology dealing with missing data in statistical analysis. Today, the most popular methods fall into two classes, Complete Cases (CC) and Multiple Imputation (MI). Another approach, Available Cases (AC), has occasionally been mentioned in the research literature, in the context of linear regression analysis, but has generally been ignored. In this paper, we revisit the AC method, showing that it can perform better than CC and MI, and we extend its breadth of application.

研究动机与目标

• 重新評估可用案例（AC）作為處理缺失數據的實用且統計穩健的方法，特別是與完整案例（CC）和多重插補（MI）進行比較。
• 證明在缺失數據符合 Missing Completely at at Random（MCAR）假設時，AC 可實現比 CC 更高的統計準確性。
• 展示 AC 在 Missing at Random（MAR）假設下對回歸與關聯建模依然有效，與常見觀點相反，並非必然引入偏差。
• 提供實證證據顯示，儘管 MI 廣受歡迎且被認為更具魯棒性，AC 在計算效率上仍顯著優於 MI，且統計表現相當或更佳。
• 將 AC 的適用範圍從線性回歸擴展至主成分分析（PCA）與列聯表分析所用的對數線性模型。

提出的方法

• 使用可用案例（AC）方法，僅對兩變數皆有觀測值的資料列計算成對統計量（例如交叉乘積），避免整行刪除。
• 在線性回歸中應用 AC，僅使用完整配對的預測變數與應變數估計回歸係數，並針對每對的實際有效樣本數進行調整。
• 將 AC 擴展至主成分分析（PCA），透過成對可用案例計算樣本共變異數矩陣，並在特定條件下確保矩陣保持正定。
• 在列聯表的對數線性模型中應用 AC，使用可用案例估計的聯合機率與邊際機率。
• 採用改良的實證方法，利用真實與模擬資料集比較 AC、CC 和 MI，著重於估計準確性與計算速度。
• 以 Amelia 為代表性的 MI 方法進行比較，但發現 MI 運算緩慢，且在 MCAR 和 MAR 條件下並未表現出優於 AC 的統計效能。

实验结果

研究问题

• RQ1 在缺失數據符合 Missing Completely at at Random（MCAR）假設時，可用案例（AC）是否能在統計準確性上優於完整案例（CC）？
• RQ2 儘管普遍認為 AC 會引入偏差，AC 在 Missing at Random（MAR）假設下對回歸與關聯建模是否仍有效？
• RQ3 AC 的計算效率與多重插補（MI）相比如何，特別是在大規模資料集中的表現？
• RQ4 AC 是否可可靠地延伸應用於主成分分析（PCA）與列聯表的對數線性模型？
• RQ5 當 AC 在有效範圍內時，MI 是否在統計上提供明顯優勢，特別是在偏差與均方誤差方面？

主要发现

• 在 MCAR 條件下的真實資料研究中，AC 在回歸係數估計與模型擬合的準確性上顯著優於 CC。
• 在 MAR 條件下，AC 維持了對回歸與關聯模型的有效推論，因為給定預測變數時應變數的條件分佈仍為無偏。
• AC 的運算速度遠超 MI — 例如，在 n=10,000、p=25 的 PCA 模擬中，MI 耗時 92.9 秒，而 AC 僅需 1.97 秒。
• 儘管 MI 在 MAR 條件下理論上具優勢，但作者的模擬結果顯示其統計表現並未優於 AC。
• AC 所使用的交叉乘積矩陣在實際應用中保持正定，有效回應了常見對其有效性的質疑。
• AC 成為回歸與關聯建模中 MI 的強大且實用的替代方案，特別是在對速度與簡潔性有高要求的情境下。