[論文レビュー] Hellinger Distance Trees for Imbalanced Streams

R. J. P. Lyon, John Brooke+2 more|arXiv (Cornell University)|May 9, 2014

Imbalanced Data Classification Techniques参考文献 18被引用数 9

ひとこと要約

本稿では、不均衡なデータストリーム向けの新しいインクリメンタル決定木分類器GH-VFDTを提案する。この手法は、分割基準としてハリントン距離を用いることで、マイノリティクラスの再現率を顕著に向上させる。Hoeffding Treeフレームワークにハリントン距離を統合することで、VFDTを上回る再現率とHD-VFDTと同等の性能を達成し、誤検出率が低いという特徴を持つ。これは、SKAのような電波望遠鏡から生じる大規模かつ高レートのデータストリームからのパルサー信号同定を含む、リアルタイムストリーミング応用におけるレアイベント検出に有効である。

ABSTRACT

Classifiers trained on data sets possessing an imbalanced class distribution are known to exhibit poor generalisation performance. This is known as the imbalanced learning problem. The problem becomes particularly acute when we consider incremental classifiers operating on imbalanced data streams, especially when the learning objective is rare class identification. As accuracy may provide a misleading impression of performance on imbalanced data, existing stream classifiers based on accuracy can suffer poor minority class performance on imbalanced streams, with the result being low minority class recall rates. In this paper we address this deficiency by proposing the use of the Hellinger distance measure, as a very fast decision tree split criterion. We demonstrate that by using Hellinger a statistically significant improvement in recall rates on imbalanced data streams can be achieved, with an acceptable increase in the false positive rate.

研究の動機と目的

• 高不均衡なデータストリーム上で動作するインクリメンタル分類器におけるマイノリティクラスの性能が低いという課題に対処すること。特にリアルタイム応用を想定する。
• 従来の正解率ベースの指標がクラスの偏りによって誤解を招くため、クラススケューが生じるデータストリームにおいて、まれなクラスのインスタンスの再現率を向上させること。
• オンライン学習に適した、計算量が少なく、スケューに影響されない分割基準を設計すること。
• SKAのような電波望遠鏡から生じる大規模かつ高レートのデータストリームから、まれな天体的信号（例：パルサー）を効果的に検出できること。
• 高いマイノリティクラス再現率を維持しながら、既存のハリントン距離ベースのストリーム分類器よりもメモリ効率の良い代替手法を提供すること。

提案手法

• Hoeffding Treeに基づくインクリメンタル学習フレームワークにおいて、従来のジニ不純度や情報ゲインに代えて、ハリントン距離を分割基準として採用する。
• ハリントン距離を用いて、候補となる分割ポイントにおけるクラス分布の統計的乖離を測定し、マイノリティクラスとマジョリティクラスを最もよく分離する分割を優遇する。
• 各ノードにおけるクラス分布推定値をストリーミング統計を用いて動的に更新することで、完全なデータを保存せずにリアルタイム学習を可能にする。
• 誤検出率を低減しつつも高い再現率を維持するため、改良版のGH-VFDTはハリントン距離とグリーディ最適化戦略を組み合わせる。
• 高速度のデータストリーム（例：Square Kilometre Array (SKA) からのもの）に適した、計算量が軽量な手法として設計されている。
• Hoeffdingの不等式を活用することで、限られたデータ量のもとでも、高い確率で決定木構造が収束することを保証する。

実験結果

リサーチクエスチョン

• RQ1 ハリントン距離を分割基準として用いることで、不均衡なデータストリームにおけるインクリメンタル決定木のマイノリティクラス再現率が顕著に向上するか？
• RQ2 ハリントン距離ベースのストリーム分類器は、標準的なVFDTと比較して、高不均衡ストリームにおける再現率と誤検出率の観点で優れているか？
• RQ3 既存のハリントン距離ベースのストリーム学習者と比較して、ハリントン距離ベースのアプローチが、メモリ使用量を削減しながらも高い性能を維持できるか？
• RQ4 提案されたGH-VFDT手法は、実世界の不均衡なデータストリームにおいて、G-meanと再現率の両面で統計的に有意な改善を達成するか？
• RQ5 この手法は、電波望遠鏡からの高レートでノイズの多いデータストリームにおいて、まれなパルサー信号を効果的に検出できるか？

主な発見

• GH-VFDTは、テストされたすべての不均衡なデータストリームにおいて、VFDTよりも顕著に高いマイノリティクラス再現率を達成した。特に最も偏ったデータセットではその改善が顕著であった。
• アルゴリズムは、先行研究で述べられた静的分類器のG-meanと再現率を上回る値を達成し、ストリーミング環境下での優れた一般化性能を示した。
• GH-VFDTは再現率を高く維持しながら、誤検出率を低く抑え、誤検出がコストとなる応用分野において、VFDTよりも適していることが示された。
• MiniBooneデータセットを除くすべてのデータセットにおいて、GH-VFDTとHD-VFDTの性能差は有意水準α=0.01で有意でなかったため、同等の有効性を示した。
• ハリントン距離に基づく分割基準は、従来の不純度測度と比較して、ストリーミング決定木において、頑健で高速かつスケューに影響されない代替手段であることが実証された。
• 本手法は、パルサー天文学を含む、高スループット環境におけるリアルタイムでの稀なイベント検出の実用的妥当性を示した。