[論文レビュー] Quality control, data cleaning, imputation

Dawei Liu, Hanne Oberman+3 more|arXiv (Cornell University)|Oct 29, 2021

Statistical Methods and Inference参考文献 101被引用数 4

ひとこと要約

本論文は、欠損データを最小限に抑えるために、現実世界のデータ（RWD）における品質管理、データクリーニング、補完について包括的なガイドを提供する。欠損データの処理にあたってバイアスを低減する手法を強調し、統計的および機械学習ベースの補完手法を評価する。情報的欠損や繰り返し観察といった課題に言及し、補完の代替手法を提示することで、研究者がRWD研究における堅牢なデータ分析のための実践的で根拠に基づいた戦略を採用できるように支援する。

ABSTRACT

This chapter addresses important steps during the quality assurance and control of RWD, with particular emphasis on the identification and handling of missing values. A gentle introduction is provided on common statistical and machine learning methods for imputation. We discuss the main strengths and weaknesses of each method, and compare their performance in a literature review. We motivate why the imputation of RWD may require additional efforts to avoid bias, and highlight recent advances that account for informative missingness and repeated observations. Finally, we introduce alternative methods to address incomplete data without the need for imputation.

研究の動機と目的

• 現実世界のデータ（RWD）における品質保証および品質管理の重要な課題、特に欠損データに関する課題に取り組む。
• RWDにおける欠損値の補完に用いられる統計的および機械学習手法を評価・比較する。
• 情報的欠損や繰り返し観察によるRWDの補完におけるバイアスのリスクを強調する。
• 欠損データメカニズムに関する仮定を避ける補完の代替アプローチを提示する。
• 研究者がRWD研究におけるデータ前処理に適切で堅牢な手法を選択できるように支援する。

提案手法

• 本論文は、RWDにおける品質管理およびデータクリーニングのための構造的フレームワークを導入し、データ品質上の問題の特定と是正に焦点を当てる。
• 複数の補完手法、特に多重補完法（MICE）、回帰補完、およびランダムフォレストやk近傍法などの機械学習ベースの手法をレビューする。
• 各手法の長所と短所を、仮定、スケーラビリティ、および異なる欠損データメカニズム下でのパフォーマンスの観点から評価する。
• 欠損が未観測値に関連する（情報的欠損）場合に、パターン混合モデルや選択モデルなどの高度な技術を用いてその欠損メカニズムを明示的にモデル化することが重要であると強調する。
• 繰り返しまたはクラスタリングされた観察を扱うための手法、例えば混合効果モデルやマージナルモデルを議論し、補完中にデータ構造を保持する。
• 本論文は、補完の仮定が疑わしい場合の代替手段として、完全ケース解析に感度分析を組み合わせた手法や逆確率加重法を提示する。

実験結果

リサーチクエスチョン

• RQ1 複雑な欠損データメカニズムを有する現実世界のデータに対して、どの補完手法が最も効果的か？
• RQ2 情報的欠損はRWDにおける補完結果の妥当性にどのように影響を及ぼし、適切にモデル化するにはどうすればよいか？
• RQ3 伝統的な統計的補完と現代の機械学習ベースの補完の間には、どのようなパフォーマンスのトレードオフがあるか？
• RQ4 RWDにおける繰り返しまたはクラスタリングされた観察は、データクリーニングおよび補完の段階でどのように適切に処理できるか？
• RQ5 不完全なRWDに対して、補完よりも代替アプローチが好ましい状況とはどのようなものか？

主な発見

• 多重補完法（MICE）および機械学習ベースの補完（例：ランダムフォレスト）は、無視可能欠損の下では良好に機能するが、情報的欠損が存在する場合には適切にモデル化されない限りバイアスを引き起こす可能性がある。
• 欠損データメカニズムを明示的にモデル化する手法（例：パターン混合モデル）は、情報的欠損が存在する状況でもより高いロバストネスを示す。
• RWDにおける補完では、繰り返し測定やクラスタリングを含むデータ構造を注意深く考慮する必要があり、独立性の仮定を破るのを防ぐ。
• 補完の仮定が疑わしい場合には、逆確率加重法や完全ケース解析に感度分析を組み合わせた手法が、補完の代替として実用的である。
• 機械学習ベースの補完手法は柔軟性に優れるが、妥当性の検証が慎重に行われ、ハイパーパrameterのチューニングやデータスパarsityに敏感である。
• 本論文は、いかなる補完手法も普遍的に他の手法を上回るわけではないと結論づける。手法の選択は、データ構造、欠損データメカニズム、および研究目的に従って行われるべきである。