[論文レビュー] Fast Imbalanced Classification of Healthcare Data with Missing Values

Talayeh Razzaghi, Oleg Roderick+2 more|arXiv (Cornell University)|Mar 21, 2015

Imbalanced Data Classification Techniques参考文献 19被引用数 17

ひとこと要約

本稿では、欠損値とクラス不均衡を伴う大規模で不均衡な医療データセットに対する高速かつ高精度な分類を実現するため、期待最大化（EM）補完法と統合された多段階コストセンシティブSVMフレームワークを提案する。この手法は、標準的なSVMやロジスティック回帰と比較して、計算効率と分類性能を向上させ、実臨床データにおいて最大0.8016のG-meanを達成した。

ABSTRACT

In medical domain, data features often contain missing values. This can create serious bias in the predictive modeling. Typical standard data mining methods often produce poor performance measures. In this paper, we propose a new method to simultaneously classify large datasets and reduce the effects of missing values. The proposed method is based on a multilevel framework of the cost-sensitive SVM and the expected maximization imputation method for missing values, which relies on iterated regression analyses. We compare classification results of multilevel SVM-based algorithms on public benchmark datasets with imbalanced classes and missing values as well as real data in health applications, and show that our multilevel SVM-based method produces fast, and more accurate and robust classification results.

研究の動機と目的

• 大規模で不均衡な医療データセットに欠損値が存在する状況における分類の課題に対処すること。
• 臨床データにおけるスパarsity、クラス不均衡、欠損データの影響により性能が低下する従来の機械学習手法の限界を克服すること。
• 実臨床応用において高い精度と頑健性を維持する、スケーラブルで効率的な分類フレームワークの開発。
• 財務リスクやアプローチキャンペーンへの患者非応答といった、稀であるが重要な臨床的アウトカムの予測モデリングを改善すること。
• 多様な臨床的および行政的データを統合することで、先進的な機械学習の実用的価値を示し、根拠に基づく医療に貢献すること。

提案手法

• 階層的データ分割と並列処理を用いて、大規模データセットにスケーラブルなサポートベクターマシン（SVM）のスケーリングを実現する多段階フレームワークを提案する。
• 少数クラスへの誤分類ペナルティを高く設定することで、クラス不均衡に対処するためのコストセンシティブ学習をSVMに統合する。
• 繰り返し回帰を用いた期待最大化（EM）補完法を適用し、データ分布を保持するとともにバイアスを低減する。
• EM補完法と多段階SVMを統合して、欠損値とクラス不均衡を同時に処理する統合パイプラインを構築する。
• 特徴量を高次元空間にマップして分離性を向上させるために、径路基底関数（RBF）または線形カーネルを用いたカーネルSVMを用いる。
• 多段階分解によるトレーニングプロセスの最適化により、計算複雑度を低減しつつモデルの精度を維持する。

実験結果

リサーチクエスチョン

• RQ1 多段階コストセンシティブSVMフレームワークは、高精度な分類性能を維持しつつ、欠損値と不均衡な医療データを効果的に処理できるか？
• RQ2 EM補完法と多段階SVMを統合することで、実臨床データセットにおいて標準的SVMやロジスティック回帰と比較して性能がどのように向上するか？
• RQ3 大規模でマルチソースの臨床データに対して、モデルの頑健性を損なわず、計算時間をどの程度短縮できるか？
• RQ4 本手法は、患者のアプローチへの非応答や財務リスクといった、稀であるが臨床的に重要なアウトカムの予測を顕著に改善するか？
• RQ5 本フレームワークは、スパarsity、不均衡、欠損値を伴う他の医療分類問題にも一般化可能か？

主な発見

• 提案された多段階重み付きSVM（MLWSVM）は、患者のアプローチ応答予測においてG-mean 0.8016を達成し、適応的ロジスティック回帰（0.7516）と標準的多段階SVM（0.8012）を上回った。
• MLWSVMは感度（SN）を0.9739、特異度（SP）を0.6598まで向上させ、アプローチ応答予測における少数クラス患者の強力な検出を示した。
• MLWSVMはアプローチデータセットにおいて0.8495の精度を達成し、ベースラインのロジスティック回帰モデル比で10%の向上を示した。
• 多段階分解による優れた計算効率のおかげで、予測品質を損なわず大規模データセットの高速処理が可能になった。
• EM補完法とコストセンシティブSVMの統合により、欠損値に起因するバイアスが顕著に低減され、複数の実臨床医療データセットにおけるモデルの頑健性が向上した。
• 本フレームワークは、公的ベンチマークデータセットおよび実臨床データ（財務リスク予測、患者アプローチ応答モデリング含む）の両方で優れた一般化性能を示した。