[論文レビュー] MixBoost: Synthetic Oversampling with Boosted Mixup for Handling Extreme Imbalance

Anubha Kabra, Ayush Chopra+5 more|arXiv (Cornell University)|Sep 3, 2020

Imbalanced Data Classification Techniques参考文献 24被引用数 5

ひとこと要約

MixBoostは、エントロピー加重サンプリングに基づくブーストド選択メカニズムを用いて、少数派クラスと多数派クラスのサンプルを知的に混合することで、合成ハイブリッドインスタンスを生成する画期的なデータ拡張手法である。20のベンチマークデータセットにおいて極端なクラス不均衡が見られる状況で、最先端の手法を上回り、反復的かつモデル誘導型の拡張によって、低データ環境における分類器の汎化性能を向上させることを示している。

ABSTRACT

Training a classification model on a dataset where the instances of one class outnumber those of the other class is a challenging problem. Such imbalanced datasets are standard in real-world situations such as fraud detection, medical diagnosis, and computational advertising. We propose an iterative data augmentation method, MixBoost, which intelligently selects (Boost) and then combines (Mix) instances from the majority and minority classes to generate synthetic hybrid instances that have characteristics of both classes. We evaluate MixBoost on 20 benchmark datasets, show that it outperforms existing approaches, and test its efficacy through significance testing. We also present ablation studies to analyze the impact of the different components of MixBoost.

研究の動機と目的

• 少数派クラスのインスタンスが乏しい極端に不均衡なデータセット上で、頑健な分類器を訓練するという課題に対処すること。
• 少数派クラスの凸包内に閉じ込められた均質な合成インスタンスを生成する既存のオーバーサンプリング手法の限界を克服すること。
• 現在モデルが性能を発揮していない入力空間の領域における分類器性能を向上させること。
• 反復的かつモデル誘導型のサンプリングを通じて、少数派および多数派クラスのデータを効果的に統合するデータ拡張戦略を開発すること。
• ハイブリッドインスタンス生成の有効性をアブレーションスタディおよび統計的有意性検定を用いて検証すること。

提案手法

• MixBoostは反復的で二段階のプロセスを用いる：まず、不確実性領域を優先するためにエントロピー加重のローハイ・サンプリング戦略を用いて候補インスタンスを選択する。
• 第二に、選択された少数派クラスと多数派クラスのインスタンス間の補間を用いて、両方のクラスの特徴を持つ合成ハイブリッドインスタンスを生成する。
• 現在の分類器が性能を発揮していない領域に焦点を当てる動的サンプリング戦略を採用しており、予測エントロピーが高くなることで示される。
• モデルフィードバックをデータ生成プロセスに統合し、特徴空間の性能が低い領域で最も有益な合成インスタンスが生成されるようにしている。
• 複数回の拡張ラウンドを実行し、入力空間全体にわたり合成データの分布が段階的に改善される。
• 特徴の両方のクラスを組み合わせつつ構造的関係を保持する、修正されたミックスアップに類似した補間技術を用いている。

実験結果

リサーチクエスチョン

• RQ1 少数派および多数派クラスのインスタンスを組み合わせた反復的かつモデル誘導型のデータ拡張は、極端に不均衡なデータセットにおける性能を向上させることができるか？
• RQ2 均質な少数派クラスのサンプルではなく、ハイブリッド合成インスタンスを生成することで、低データ環境における一般化性能が向上するか？
• RQ3 エントロピー加重選択メカニズムは、モデルの不確実性領域における合成インスタンスの質および分布にどのように影響するか？
• RQ4 MixBoostは、多様なベンチマークデータセットにおいて、SMOTE、ADASYN、SWIMなどの既存の最先端のオーバーサンプリング技術をどの程度上回るか？
• RQ5 少数派クラスのインスタンス数を変化させた場合、合成データの品質および下流の分類器性能にどのような影響が生じるか？

主な発見

• MixBoostは、極端なクラス不均衡が見られる20のベンチマークデータセットにおいて、g-meanスコアで既存の最先端手法を顕著に上回っている。
• すべてのテスト済みデータセットで分類器性能が向上しており、特に少数派クラスの表現が最小限の低データ環境で顕著である。
• アブレーションスタディにより、ブーストド選択（エントロピー加重サンプリング）とミックスアップベースのハイブリッド生成の両方が、性能向上に不可欠な要素であることが確認された。
• MixBoostプロセスに使用される少数派クラスインスタンス数が増加するにつれて、分類器性能が単調に向上する傾向を示しており、スケーラビリティとロバストネスが裏付けられている。
• MixBoostが生成する合成インスタンスは、モデルの不確実性が高い領域でより効果的であることが実証されており、入力空間の低精度ゾーンでの性能向上が確認された。
• 有意性検定により、複数回の実行および複数のデータセットにおいて、性能向上が統計的に有意であることが確認された。