[論文レビュー] The correlation-assisted missing data estimator

Timothy I. Cannings, Yingying Fan|arXiv (Cornell University)|Nov 5, 2019

Statistical Methods and Bayesian Inference参考文献 22被引用数 4

ひとこと要約

本稿では、完全事例と欠損付き観測値の間の相関を活用することで推定精度を向上させる、新しい手法である相関支援欠損データ（CAM）推定量を提案する。U統計量、カーネル密度推定、非パラメトリック回帰の文脈において、完全事例解析に比べて平均二乗誤差を低減する。欠損が完全にランダムであるという仮定の下で、分散が低く、漸近正規性を保証する理論的根拠を有する。

ABSTRACT

We introduce a novel approach to estimation problems in settings with missing data. Our proposal -- the Correlation-Assisted Missing data (CAM) estimator -- works by exploiting the relationship between the observations with missing features and those without missing features in order to obtain improved prediction accuracy. In particular, our theoretical results elucidate general conditions under which the proposed CAM estimator has lower mean squared error than the widely used complete-case approach in a range of estimation problems. We showcase in detail how the CAM estimator can be applied to $U$-Statistics to obtain an unbiased, asymptotically Gaussian estimator that has lower variance than the complete-case $U$-Statistic. Further, in nonparametric density estimation and regression problems, we construct our CAM estimator using kernel functions, and show it has lower asymptotic mean squared error than the corresponding complete-case kernel estimator. We also include practical demonstrations throughout the paper using simulated data and the Terneuzen birth cohort and Brandsma datasets available from CRAN.

研究の動機と目的

• 欠損データ設定において、完全事例解析が不効率である問題に対処し、欠損付き観測値に含まれる貴重な情報を無視するのを回避すること。
• 完全事例と欠損付き特徴を持つ観測値の間の相関を活用することで、推定精度を向上させる一般化されたフレームワークを構築すること。
• 複数の統計モデルにおいて、CAM推定量の平均二乗誤差が完全事例推定量よりも小さいという理論的保証を提供すること。
• 非パラメトリックおよびU統計量設定において、データ駆動的で高速かつ完全自動の推定量構築を可能にする実用的実装を可能とすること。

提案手法

• CAM推定量は、完全事例推定量と相関する統計量を、完全および不完全な観測値から得たものに基づき、線形補正項を構築する。
• 完全事例推定量と不完全データに基づく補助推定量との相関を用いることで、平均二乗誤差を低減する。
• U統計量の文脈では、最適な補正項自体がU統計量であるため、理論的分析と不偏かつ漸近的にガウス分布に従うCAM推定量の構築が可能になる。
• 非パラメトリック設定では、カーネル関数を用いてCAM推定量を構築し、漸近的分散低減の理論的裏付けが与えられる。
• 最適補正項の知識が不要であることを前提に、実現可能な経験的相関推定値を用いたデータ駆動型CAM推定量の提案。
• 理論的分析には、標準的な非パラメトリック正則性条件の下で、集中不等式および漸近展開を用いたバイアスと分散の上限が含まれる。

実験結果

リサーチクエスチョン

• RQ1 CAM推定量が完全事例推定量よりも低い平均二乗誤差を達成する条件は何か？
• RQ2 欠損が完全にランダムである条件下で、U統計量設定においてCAM推定量が不偏かつ漸近正規となるか？
• RQ3 カーネルベースの非パラメトリック密度推定および回帰において、CAM推定量はどのように漸近的平均二乗誤差を改善するか？
• RQ4 CAM推定量における最適補正項は何か？ そして、実際のデータからどのように推定できるか？
• RQ5 CAM推定量は、テルヌーズン出生コhortおよびブランドスマデータセットなどの実世界の欠損データを含むデータセットに効果的に適用可能か？

主な発見

• CAM推定量は、欠損が完全にランダムである必要がない一般条件下で、完全事例推定量よりも低い平均二乗誤差を達成する。
• U統計量設定において、データが欠損が完全にランダムである場合、CAM推定量は不偏かつ漸近的にガウス分布に従い、完全事例U統計量の漸近的分散よりも厳密に小さい。
• カーネル密度推定および局所定数回帰において、CAM推定量は完全事例カーネル推定量よりも漸近的平均二乗誤差が低く、その改善は主要項で定量的に示される。
• U統計量設定において、CAM推定量の最適補正項はU統計量に対応し、理論的分析および一貫性を持つ推定量の構築を可能にする。
• データ駆動型CAM推定量は、シミュレーションおよび実データ忤用において顕著な分散低減を達成しており、テルヌーズン出生コhortおよびブランドスマデータセットを含む。
• 理論的境界により、CAM推定量のバイアスおよび分散項が適切に収束することが確認され、標準的な非パラメトリック正則性条件の下で剰余項が確率的に消える。