[論文レビュー] Performance comparison of State-of-the-art Missing Value Imputation Algorithms on Some Bench mark Datasets

M. Naresh Kumar|arXiv (Cornell University)|Jul 22, 2013

Machine Learning and Data Classification参考文献 22被引用数 3

ひとこと要約

本稿では、新しいインデックス測度と距離計算を用いることで、データセットにおける欠損値推定を向上させるRNI-II補完アルゴリズムを提案する。UCIおよびKEELベンチマークデータセット上で評価した結果、C4.5およびGA-C4.5意思決定木分類器の分類精度を、KNNI、WKNNI、KMI、FKMI、SVMIと比較して顕著に向上させ、統計的有意性（p < 0.05）を示した。

ABSTRACT

Decision making from data involves identifying a set of attributes that contribute to effective decision making through computational intelligence. The presence of missing values greatly influences the selection of right set of attributes and this renders degradation in classification accuracies of the classifiers. As missing values are quite common in data collection phase during field experiments or clinical trails appropriate handling would improve the classifier performance. In this paper we present a review of recently developed missing value imputation algorithms and compare their performance on some bench mark datasets.

研究の動機と目的

• 実世界のベンチマークデータセットにおける現代的な欠損値補完アルゴリズムの性能を評価すること。
• 臨床および時系列データベースにおける欠損値が分類器の精度を低下させることを是正すること。
• RNI-IIアルゴリズムを提案・検証し、分類性能を向上させる優れた補完手法とすること。
• 標準的なUCIおよびKEELデータセットを用いて、RNI-IIをKNNI、WKNNI、KMI、FKMI、SVMIと比較すること。
• Wilcoxon符号順位検定を用いて、RNI-IIの性能向上が統計的に有意であることを確立すること。

提案手法

• RNI-IIは、データレコードの類似度を評価するための新しいインデックス測度を計算し、不完全なレコード間の距離推定をより正確に可能にする。
• このインデックス測度を用いてデータポイント間の近接度を計算し、補完において従来のユークリッド距離に代わる。
• 補完は、新しい距離尺度に基づいて最も類似したレコードを特定し、近隣の値を割り当てることで実施される。
• 数値属性の場合、類似した近隣の平均値が使用される。名義属性の場合、モードが選択される。
• 補完の影響が分類精度に与える影響を評価するために、意思決定木分類器（C4.5およびGA-C4.5）と統合される。
• 性能差の統計的有意性は、有意水準α = 0.05でWilコxon符号順位検定を用いて検証される。

実験結果

リサーチクエスチョン

• RQ1 RNI-II補完アルゴリズムは、ベンチマークデータセットにおいてKNNI、WKNNI、KMI、FKMI、SVMIと比較して、性能でどのように差を示すか？
• RQ2 RNI-IIは、欠損値を扱う際、C4.5およびGA-C4.5分類器の分類精度を顕著に向上させるか？
• RQ3 RNI-IIの性能向上は、他の補完手法と比較して統計的に有意であるか？
• RQ4 RNI-IIに組み込まれた新しいインデックス測度は、従来の距離ベース手法と比較して、どれほど補完精度を向上させるか？
• RQ5 さまざまな実世界のデータセットにおいて、異なる補完戦略は分類器性能にどのように影響を与えるか？

主な発見

• GA-C4.5分類器を用いたAUSデータセットでは、RNI-IIが平均テスト精度85.65%を達成し、FKMI（81.45%）およびKMI（81.16%）を顕著に上回った。
• IRMデータセットでは、RNI-IIがC4.5の精度をFKMI、KNNI、WKNNIと比較して約8%向上させた。
• Wilcoxon符号順位検定の結果、RNI-IIとKMI、FKMI、KNNI、WKNNIを比較した際のp値は0.02以下であり、統計的有意性が確認された。
• GA-C4.5において、RNI-IIは全比較手法と比較して最高の正のランク和（28）を示し、p値 ≤ 0.05であった。
• RNI-IIとSVMIを比較した際は統計的有意性が得られなかった（p = 0.37）が、多数のデータセットでより高い精度を示した。
• 視覚的分析（図2～6）により、RNI-IIがすべてのデータセットで一貫して高い精度向上を達成していることが確認され、ベースラインを上回る棒グラフが一貫した改善を示した。