[論文レビュー] Comparing K-Nearest Neighbors and Potential Energy Method in classification problem. A case study using KNN applet by E.M. Mirkes and real life benchmark data sets

Yanshan Shi|arXiv (Cornell University)|Nov 5, 2012

Face and Expression Recognition参考文献 5被引用数 3

ひとこと要約

本研究では、ヤクーバーおよびガウス型ポテンシャルを用いたK-Nearest Neighbors (KNN) 法とポテンシャルエネルギー (PE) 法を、教師あり分類の文脈で比較している。E.M. MirkesのKNNアプリレットと実際のベンチマークデータセットを用いて、KNNとガウス型ポテンシャルを用いたPEは類似した性能を示す一方、ヤクーバー型ポテンシャルを用いたPEは高密度データ分布においてKNNに劣ることが判明した。

ABSTRACT

K-nearest neighbors (KNN) method is used in many supervised learning classification problems. Potential Energy (PE) method is also developed for classification problems based on its physical metaphor. The energy potential used in the experiments are Yukawa potential and Gaussian Potential. In this paper, I use both applet and MATLAB program with real life benchmark data to analyze the performances of KNN and PE method in classification problems. The results show that in general, KNN and PE methods have similar performance. In particular, PE with Yukawa potential has worse performance than KNN when the density of the data is higher in the distribution of the database. When the Gaussian potential is applied, the results from PE and KNN have similar behavior. The indicators used are correlation coefficients and information gain.

研究の動機と目的

• 実世界のデータセットにおけるK-Nearest Neighbors (KNN) 法とポテンシャルエネルギー (PE) 法の分類性能を評価・比較すること。
• ヤクーバーおよびガウス型の異なるポテンシャル関数が、PE法の分類精度に与える影響を調査すること。
• データ密度がKNN法とPE法の相対的性能に与える影響を分析すること。
• インタラクティブなKNNアプリレットとベンチマークデータセットを用いたMATLABベースの実装を用いて、結果を検証すること。
• 相関係数と情報ゲインを定量的指標として用いて、モデル性能の比較を行うこと。

提案手法

• ベンチマークデータセットのインタラクティブな可視化および分類に、E.M. MirkesのKNNアプリレットを用いる。
• 分類のためのエネルギー関数として、ヤクーバーおよびガウス型ポテンシャルを用いたポテンシャルエネルギー法を実装する。
• 公平な比較を保つために、KNN法とPE法を同じ実生活のベンチマークデータセットに適用する。
• 再現可能な分類実験と性能評価のためにMATLABを用いる。
• モデル性能の評価に、相関係数と情報ゲインを定量的指標として用いる。
• 各方法の耐性を評価するために、さまざまなデータ密度状態における分類結果を分析する。

実験結果

リサーチクエスチョン

• RQ1 KNN法とポテンシャルエネルギー法は、実際のベンチマークデータセットにおいて、分類精度の観点でどのように比較されるか？
• RQ2 ポテンシャル関数の選択（ヤクーバー対ガウス型）が、PE法の性能に顕著な影響を与えるか？
• RQ3 データ密度は、KNN法とPE法の相対的性能にどのように影響を与えるか？
• RQ4 KNNアプリレットの結果は、MATLABベースの実装と一貫しているか？
• RQ5 相関係数と情報ゲインは、モデル性能に関する結論を一致させているか？

主な発見

• KNN法とガウス型ポテンシャルを用いたPE法は、テストされたベンチマークデータセット全体で非常に類似した分類性能を示した。
• ヤクーバー型ポテンシャルを用いたPE法は、常にKNN法に劣り、特に高密度データセットにおいて顕著に顕著であった。
• KNN法とガウス型PE法の間で、予測されたクラスラベルと実際のクラスラベルの間の相関係数は類似しており、強い一貫性を示した。
• KNN法とガウス型PE法の情報ゲイン値は類似しており、同等の特徴の関連性検出能力を示した。
• データ密度が高くなるにつれて、KNN法とヤクーバー型PE法の性能差が拡大し、クラスタリングに敏感であることが示された。
• KNNアプリレットはMATLABベースの実装と一致する信頼性の高い結果を提供しており、実験的手法の妥当性が裏付けられた。