[論文レビュー] A review of ensemble learning and data augmentation models for class imbalanced problems: combination, implementation and evaluation

Azal Ahmad Khan, Omkar Chaudhari+1 more|arXiv (Cornell University)|Apr 6, 2023

Imbalanced Data Classification Techniques被引用数 21

ひとこと要約

この論文は、23の二値クラス不均衡データセットに対して9つのデータ拡張法と9つのアンサンブル学習法を評価する計算的研究を行い、効果的な組み合わせを特定し、SMOTE/ROSがGANベースの拡張法よりもしばしば精度と効率の両方で優れていると指摘する。

ABSTRACT

Class imbalance (CI) in classification problems arises when the number of observations belonging to one class is lower than the other. Ensemble learning combines multiple models to obtain a robust model and has been prominently used with data augmentation methods to address class imbalance problems. In the last decade, a number of strategies have been added to enhance ensemble learning and data augmentation methods, along with new methods such as generative adversarial networks (GANs). A combination of these has been applied in many studies, and the evaluation of different combinations would enable a better understanding and guidance for different application domains. In this paper, we present a computational study to evaluate data augmentation and ensemble learning methods used to address prominent benchmark CI problems. We present a general framework that evaluates 9 data augmentation and 9 ensemble learning methods for CI problems. Our objective is to identify the most effective combination for improving classification performance on imbalanced datasets. The results indicate that combinations of data augmentation methods with ensemble learning can significantly improve classification performance on imbalanced datasets. We find that traditional data augmentation methods such as the synthetic minority oversampling technique (SMOTE) and random oversampling (ROS) are not only better in performance for selected CI problems, but also computationally less expensive than GANs. Our study is vital for the development of novel models for handling imbalanced datasets.

研究の動機と目的

• 不均衡分類タスクの性能向上におけるデータ拡張とアンサンブル学習の組み合わせの評価。
• 効果と効率の観点から、古典的な拡張技法とGANベースの拡張技法を比較。
• ベンチマークデータセット全体でCI手法を評価するための一般的なフレームワークとオープンソース資源を提供。

提案手法

• さまざまな不均衡比を有する23の二値CIデータセットを対象に、9つのデータ拡張法と9つのアンサンブル学習法を評価する一般的なフレームワークを提示する。
• アンサンブル学習アプローチ（バギング、ブースティング、スタッキング）をレビューし、代表的なアルゴリズム（例：Random Forest、AdaBoost、Gradient Boosting、XGBoost、LightGBM）を要約。
• SMOTEベースの手法とその派生（例：SMOTE-ENN）を重視してデータ拡張手法を調査。
• コア手法の主要な式と概念的説明を提供（例：AdaBoostの重み付け、勾配ブースティングの残差、正則化を含むXGBoostの損失）。
• 評価指標と拡張とアンサンブルの組み合わせ時の計算上の配慮を論じる。

(a) Keyword search: “Class Imbalance.”

実験結果

リサーチクエスチョン

• RQ1 著名なCIベンチマーク問題において、どのデータ拡張とアンサンブル学習の組み合わせが最も良い性能を示すか。
• RQ2 CIタスクにおける精度と計算コストの観点で、SMOTEベースの拡張法はGANベースの拡張とどう比較されるか。
• RQ3 異なるドメインと不均衡比に対して、拡張-アンサンブルの組み合わせを選択する際の指針。

主な発見

• データ拡張法とアンサンブル学習の組み合わせは、不均衡データセットに対する分類性能を大幅に向上させる。
• SMOTEやランダムオーバーサンプリング（ROS）などの従来の拡張法は、特定のCI問題でGANベースの手法を上回り、計算コストも低い。
• 本論文は、CI手法のコミュニティ評価を支援するオープンソースのフレームワーク、コード、データを提供する。

(b) Keyword search: “Ensemble Learning.”