[論文レビュー] A Synthetic Over-sampling method with Minority and Majority classes for imbalance problems

Hadi Akbarzadeh Khorshidi, Uwe Aickelin|arXiv (Cornell University)|Nov 9, 2020

Advanced Statistical Process Monitoring被引用数 4

ひとこと要約

本論文は、少数派クラスと多数派クラスの両方の情報を活用することで、多様で適応的な合成インスタンスを生成する新しい合成オーバーサンプリング手法SOMMを提案する。両クラスの近隣データに基づいて合成インスタンスを更新することで、極端なクラス不均衡や多数派クラスの多モーダル分布が見られる状況においても、バイナリおよびマルチクラスの不均衡データセットにおいて分類器の性能を向上させ、既存手法を上回る性能を示す。実験的評価でも優れた結果を達成した。

ABSTRACT

Class imbalance is a substantial challenge in classifying many real-world cases. Synthetic over-sampling methods have been effective to improve the performance of classifiers for imbalance problems. However, most synthetic over-sampling methods generate non-diverse synthetic instances within the convex hull formed by the existing minority instances as they only concentrate on the minority class and ignore the vast information provided by the majority class. They also often do not perform well for extremely imbalanced data as the fewer the minority instances, the less information to generate synthetic instances. Moreover, existing methods that generate synthetic instances using the majority class distributional information cannot perform effectively when the majority class has a multi-modal distribution. We propose a new method to generate diverse and adaptable synthetic instances using Synthetic Over-sampling with Minority and Majority classes (SOMM). SOMM generates synthetic instances diversely within the minority data space. It updates the generated instances adaptively to the neighbourhood including both classes. Thus, SOMM performs well for both binary and multiclass imbalance problems. We examine the performance of SOMM for binary and multiclass problems using benchmark data sets for different imbalance levels. The empirical results show the superiority of SOMM compared to other existing methods.

研究の動機と目的

• 既存の合成オーバーサンプリング手法が少数派クラスにのみ注目し、多数派クラスの情報を無視するという限界を是正すること。
• 少数派クラスのインスタンスが乏しく、効果的な合成生成が困難な極度に不均衡なデータセットにおいて性能を向上させること。
• 多数派クラスが複雑で多モーダルな分布を示す状況でも、多様で適応的な合成インスタンスを生成できる手法を開発すること。
• 少数派クラスと多数派クラスのデータ構造を統合的に活用することで、バイナリおよびマルチクラスの不均衡問題における分類器性能を向上させること。

提案手法

• SOMMは、少数派クラスのサンプルの凸包内に、変更を加えたSMOTEに類似したアプローチで初期の合成インスタンスを生成する。
• その後、各合成インスタンスを少数派クラスと多数派クラスの両方の局所的近隣情報に基づいて、適応的に更新する。
• 少数派クラスと多数派クラスの近隣との距離の重み付き組み合わせを用いて適応プロセスをガイドし、多様性と関連性を確保する。
• 反復的な更新処理により、合成インスタンスを特徴空間のより代表的な領域へと段階的に改善する。
• 局所的な密度や分布的特性に応じて、多数派クラスデータの影響を動的に調整する。
• 全体的な多数派クラス統計に依存しないことで、多数派クラスの多モーダル分布に対しても頑健である。

実験結果

リサーチクエスチョン

• RQ1 少数派クラスと多数派クラスの両方の情報を組み込むことで、合成オーバーサンプリング手法がより優れた性能を発揮できるか？
• RQ2 多数派クラスの近隣データを組み込むことで、不均衡データセットにおける合成インスタンスの多様性と一般化性能にどのような影響を与えるか？
• RQ3 SOMMは、さまざまなレベルのクラス不均衡において、バイナリおよびマルチクラスの不均衡問題において、既存のオーバーサンプリング技術を上回るか？
• RQ4 多数派クラスが多モーダルまたは複雑な分布的パターンを示す状況で、SOMMはどの程度有効か？
• RQ5 極度のクラス不均衡状況において、合成インスタンスの適応的精練が分類器性能の向上に寄与するか？

主な発見

• SOMMは、F1スコアやAUCを含む複数の評価指標において、SMOTE や ADASYN などの従来手法を顕著に上回る性能を、ベンチマークデータセットで示した。
• 少数派クラスのサンプルが全データの10％未満である極端なクラス不均衡データセットにおいても、優れた性能を発揮した。
• 他の手法が全体の多数派統計に依存するのに対し、SOMMは多モーダルな多数派クラス分布に対しても頑健であることを実証した。
• 実験的結果から、多数派クラスの近隣情報の組み込みが、より多様で代表的な合成インスタンスを生成することに寄与することが明らかになった。
• マルチクラスの不均衡問題において、SOMMは一対多やペアワイズサンプリングに依存する手法とは異なり、すべての少数派クラスで一貫した性能向上を達成した。
• SOMMの適応的更新メカニズムにより、テストセットにおけるF1スコアやAUC値の向上が確認され、一般化性能の向上が裏付けられた。