[論文レビュー] An approach to dealing with missing values in heterogeneous data using k-nearest neighbors

Davi E. N. Frossard, Igor O. Nunes+1 more|arXiv (Cornell University)|Aug 13, 2016

Statistical Methods and Inference参考文献 15被引用数 6

ひとこと要約

本稿では、クリップ値、区間値、およびファジィ値を扱うために特化した距離尺度を用いた、異種データ向けのk近傍法（k-NN）補完手法を提案する。小さなデータセットにおいて低めの平均二乗誤差（MSE）を達成しており、混合データタイプにわたる欠損値に対しても頑健な性能を示している。

ABSTRACT

Techniques such as clusterization, neural networks and decision making usually rely on algorithms that are not well suited to deal with missing values. However, real world data frequently contains such cases. The simplest solution is to either substitute them by a best guess value or completely disregard the missing values. Unfortunately, both approaches can lead to biased results. In this paper, we propose a technique for dealing with missing values in heterogeneous data using imputation based on the k-nearest neighbors algorithm. It can handle real (which we refer to as crisp henceforward), interval and fuzzy data. The effectiveness of the algorithm is tested on several datasets and the numerical results are promising.

研究の動機と目的

• クリップ値、区間値、ファジィ値を含む混合データタイプを有する実世界のデータセットにおける欠損値の課題に対処すること。
• 平均値代入やリストワイズ削除といった従来の補完手法がもたらすバイアスを回避すること。
• 各データタイプに適した距離尺度を定義することで、k-NN補完フレームワークを異種データに拡張すること。
• 過学習のリスクが著しいため、補完が特に困難である小規模な実世界の意思決定データセット上で手法を評価すること。
• 欠損値が存在する状況でもデータの信頼性を維持できる、提案手法の有効性と頑健性を示すこと。

提案手法

• 標準ユークリッド距離を用いてクリップ値の距離尺度を定義する：$ d(a,b) = \sqrt{(a-b)^2} $。
• 区間値の距離尺度を $ d(\bar{a},\bar{b}) = \frac{1}{2}\sqrt{(a^L - b^L)^2 + (a^U - b^U)^2} $ として定義し、区間を2次元点とみなす。
• 三角ファジィ数（TFN）の距離尺度を、所属関数間のハウスドルフ距離を用いて定義し、ファジィ値の比較を可能にする。
• 合成距離尺度に基づきk番目の近隣者を特定し、非欠損値の重み付き平均を計算することでk-NN補完を実行する。
• 逆距離の正規化された重みを用いて補完値を計算する：$ \text{imputed} = \sum_{i=1}^{k} w_i \cdot x_i $、ここで $ w_i $ は正規化された逆距離である。
• 複数の欠損値を含むデータセットに対し、反復的に手法を適用し、後続の反復で補完済みの値を用いることで精度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 k-NNに基づく補完手法は、同時にクリップ値、区間値、ファジィ値を含む異種データタイプのデータセットを効果的に処理できるか？
• RQ2 過学習が深刻な懸念となる小規模なデータセットにおいて、欠損値を含む場合の補完精度はどの程度か？
• RQ3 異なる数の近傍（k）と異なるデータタイプに対して、手法が低平均二乗誤差（MSE）を維持できるか？
• RQ4 異種データに適用した場合、標準k-NN補完手法と比較して、本手法の性能はどのように異なるか？
• RQ5 特に小規模な意思決定行列において、欠損値の数が増加しても、本手法は頑健性を保っているか？

主な発見

• 小規模な意思決定行列において1〜3件の欠損値を補完した際、提案手法は平均二乗誤差（MSE）が約 $ 1.2 \times 10^{-2} $ に達し、優れた性能を示した。
• より大きなMCDMデータセットでは、k=1の際にMSEが最も良く $ 1 \times 10^{-2} $、k=2の際に最も悪く $ 1.9 \times 10^{-2} $ となり、kに依存するが全体として安定性を示した。
• 複数の欠損値を含む5行のMCDM行列では、k=4の際にMSEが最も良く $ 5.1 \times 10^{-3} $、k=1の際に最も悪く $ 5.8 \times 10^{-3} $ となり、高い精度と頑健性を示した。
• 本手法は近傍数（k）に対して感受性が低く、さまざまなk値において一貫した性能を維持しており、実用上における主要な利点である。
• 補完結果が同種データセットで報告された値と同程度のオーダーに収まっており、異種データに対する手法の有効性を確認した。
• ケーススタディの1例では、元の値からの距離が0.0718にまで近いファジィ値が正確に再構築されたことから、補完の忠実度が非常に高いことが示された。