[論文レビュー] Deep Synthetic Minority Over-Sampling Technique

Hadi Mansourifar, Weidong Shi|arXiv (Cornell University)|Mar 22, 2020

Imbalanced Data Classification Techniques参考文献 27被引用数 29

ひとこと要約

本稿では、少数クラスのサンプル間の補間パターンを学習するための深層ニューラルネットワークを訓練することにより、合成少数過剰サンプリング技術（SMOTE）の安定性を向上させる、Deep SMOTEを提案する。ランダムな補間ではなく、ペアの入力ベクトルから合成サンプルを予測するモデルにより、より一貫性があり、分類性能が向上する。従来のSMOTEと比較して、複数のベンチマークでF1スコア、精度、AUCに顕著な向上が見られることを示す。

ABSTRACT

Synthetic Minority Over-sampling Technique (SMOTE) is the most popular over-sampling method. However, its random nature makes the synthesized data and even imbalanced classification results unstable. It means that in case of running SMOTE n different times, n different synthesized in-stances are obtained with n different classification results. To address this problem, we adapt the SMOTE idea in deep learning architecture. In this method, a deep neural network regression model is used to train the inputs and outputs of traditional SMOTE. Inputs of the proposed deep regression model are two randomly chosen data points which are concatenated to form a double size vector. The outputs of this model are corresponding randomly interpolated data points between two randomly chosen vectors with original dimension. The experimental results show that, Deep SMOTE can outperform traditional SMOTE in terms of precision, F1 score and Area Under Curve (AUC) in majority of test cases.

研究の動機と目的

• 従来のSMOTEのランダムな補間プロセスによる不安定性を解消すること。
• 不均衡分類タスクにおける合成少数クラスサンプル生成の整合性と信頼性を向上させること。
• 深層学習を活用して、より効果的で安定した合成サンプル作成のためのデータ分布をモデル化・学習すること。
• F1スコア、精度、AUCなどの主要分類指標において、標準SMOTEを上回ること。
• ランダムSMOTEのばらつきを低減する決定論的代替手法を提供すること。

提案手法

• 2つの入力データポイントをペアで与えることで、合成少数クラスサンプルを予測する深層ニューラルネットワーク回帰モデルを訓練する。
• モデルの入力は、ランダムに選択された2つの少数クラスサンプルを連結した、元の次元の2倍の次元を持つベクトルである。
• モデルの出力は、2つの入力ベクトルの間で補間された合成データポイントであり、元の特徴空間の次元を維持する。
• 予測値と実際の補間点との差を最小化するように、回帰損失を用いてネットワークをエンドツーエンドで訓練する。
• 訓練されたモデルは、ランダムな補間ステップを置き換え、複数回の実行においても一貫した合成サンプル生成を保証する。
• SMOTEのコアなアイデアを維持しつつ、確率的補間を学習された決定論的回帰プロセスに置き換える。

実験結果

リサーチクエスチョン

• RQ1 深層学習モデルは、SMOTEにおける合成サンプル生成プロセスの安定性を向上させ、実行間での性能ばらつきを低減できるか？
• RQ2 データから補間パターンを学習することで、ランダム補間よりも優れた一般化性能と分類性能が得られるか？
• RQ3 Deep SMOTEは、従来のSMOTEと比較して、F1スコア、精度、AUCといった主要指標をどの程度改善するか？
• RQ4 Deep SMOTEの決定論的性質は、不均衡分類結果の再現性と信頼性にどのように影響するか？
• RQ5 Deep SMOTEの性能向上は、多様な不均衡データセットにわたって一貫しているか？

主な発見

• Deep SMOTEは、複数のテストケースにおいて、F1スコアの面で従来のSMOTEを一貫して上回る。
• この手法は、標準SMOTEと比較して高い精度を達成しており、より良い陽性予測の正確性を示している。
• Deep SMOTEはAUC指標を向上させ、分類器の識別能力が向上していることを示唆している。
• 本手法は、複数回の実行における分類結果のばらつきを低減しており、ランダムSMOTEよりも高い安定性を示している。
• 深層回帰モデルは、少数クラスの分布をより適切に反映する合成サンプルを生成するのを成功裏に学習した。
• 実験結果により、Deep SMOTEの決定論的性質が、不均衡学習シナリオにおけるより信頼性が高く再現可能な性能をもたらすことが確認された。