[論文レビュー] Estimation and imputation in Probabilistic Principal Component Analysis with Missing Not At Random data

Aude Sportisse, Claire Boyer+1 more|arXiv (Cornell University)|Jun 6, 2019

Statistical Methods and Inference被引用数 18

ひとこと要約

本稿では、欠損データの分布をモデル化せずに、非復帰欠損（MNAR）メカニズム下での確率的主成分分析（PPCA）における欠損データの推定と補完を提案する。自己マスク型MNARにおけるPPCAパラメータの同定可能性を確立し、完全ケースデータのみを用いて平均、分散、共分散の一貫した推定量を導出することで、低ランクモデルにおけるバイアスフリーな補完を可能にする。

ABSTRACT

Missing Not At Random (MNAR) values lead to significant biases in the data, since the probability of missingness depends on the unobserved values.They are ''not ignorable'' in the sense that they often require defining a model for the missing data mechanism, which makes inference or imputation tasks more complex. Furthermore, this implies a strong extit{a priori} on the parametric form of the distribution.However, some works have obtained guarantees on the estimation of parameters in the presence of MNAR data, without specifying the distribution of missing data \citep{mohan2018estimation, tang2003analysis}. This is very useful in practice, but is limited to simple cases such as self-masked MNAR values in data generated according to linear regression models.We continue this line of research, but extend it to a more general MNAR mechanism, in a more general model of the probabilistic principal component analysis (PPCA), extit{i.e.}, a low-rank model with random effects. We prove identifiability of the PPCA parameters. We then propose an estimation of the loading coefficients and a data imputation method. They are based on estimators of means, variances and covariances of missing variables, for which consistency is discussed. These estimators have the great advantage of being calculated using only the observed data, leveraging the underlying low-rank structure of the data. We illustrate the relevance of the method with numerical experiments on synthetic data and also on real data collected from a medical register.

研究の動機と目的

• データが非復帰欠損（MNAR）である場合に生じる選択バイアスと推論の複雑さを踏まえ、PPCAにおけるパラメータ推定とデータ補完の課題に対処すること。
• 単純なMNARやMAR設定に限られていた先行研究を拡張し、一般化された自己マスク型MNARメカニズム下でのPPCAパラメータの同定可能性を確立すること。
• 欠損データメカニズムを指定せずに、MNAR変数の主要なモーメント（平均、分散、共分散）を推定する方法を開発すること。
• データと欠損の同時モデル化を回避する計算効率が良く、非パラメトリックなアプローチを用いて低ランクモデルにおける欠損値の補完を実現すること。

提案手法

• PPCAの低ランク構造を活用し、完全ケース分析を用いてMNAR変数の平均、分散、共分散を推定する。
• PPCAモデルから導出される部分線形モデルの代数的変形により、負荷行列および平均パラメータの推定量を導出する。
• グラフィカルモデルおよび欠損グラフを用いて条件付き独立性をモデル化し、MARおよびMNARメカニズム下での一貫した推定量を導出する。
• 2つの戦略を提案：1つは部分線形モデルに基づき、もう1つはグラフィカルモデルのツールを用いて欠損が存在する状況下での同定可能な関係を同定する。
• 負荷行列の推定と欠損値の補完を繰り返すアルゴリズムを実装し、一貫したモーメント推定量を用いる。
• 欠損が未観測値に依存する場合でも、正則性条件（仮定A1–A9）の下で推定量の一貫性を保証する。

実験結果

リサーチクエスチョン

• RQ1 自己マスク型メカニズム下でも、MNARのデータがある場合にPPCAパラメータを同定できるか？
• RQ2 欠損データメカニズムをモデル化せずに、MNAR変数の平均、分散、共分散の一致推定量を導出できるか？
• RQ3 PPCAの低ランク構造を活用することで、非無視的欠損データ設定下での推定と補完を可能にするにはどうすればよいか？
• RQ4 MNAR欠損が存在する状況下で、完全ケース推定量のモーメントの一貫性を保証する条件は何か？
• RQ5 提案手法は、推定精度および補完性能の面で、最先端の手法と比較してどのように異なるか？

主な発見

• 本稿では、一般化された自己マスク型MNARメカニズム下でのPPCAパラメータの同定可能性を証明し、MARや単純なMNARに限られた先行研究を拡張した。
• 欠損データ分布のモデル化を不要とし、観測済みデータのみを用いてMNAR変数の平均、分散、共分散の一致推定量を導出した。
• 合成データ上での実験で、提案手法はRMSEおよび相関回復の観点で、最先端の手法を上回る高い補完精度とパラメータ推定性能を達成した。
• 実医用データ（Traumabase®）において、標準的手法と比較してMNARメカニズム下でも低いバイアスを示し、高いロバストネスを示した。
• アルゴリズムは計算的に効率的かつスケーラブルであり、再現性を確保するためGitHubでコードを公開している。
• 実験的結果から、MARおよびMNARメカニズムが同時に存在するデータセットにおいても、本手法が推定の一貫性を維持することが確認された。