[論文レビュー] DeepSMOTE: Fusing Deep Learning and SMOTE for Imbalanced Data

Damien Dablain, Bartosz Krawczyk+1 more|arXiv (Cornell University)|May 5, 2021

Digital Media Forensic Detection被引用数 4

ひとこと要約

DeepSMOTEは、自己符号化器フレームワークとSMOTEを融合させた、クラス不均衡データセット向けの高品質な人工画像を生成する、深層学習に基づく新しいオーバーサンプリング手法を提案する。低次元埋め込みを学習し、潜在空間でSMOTEを適用することで、判別器を必要とせずにマイナスクラスの表現を向上させ、GANベースおよびピクセルベースの手法よりも精度、耐性、視覚的品質において優れている。

ABSTRACT

Despite over two decades of progress, imbalanced data is still considered a significant challenge for contemporary machine learning models. Modern advances in deep learning have magnified the importance of the imbalanced data problem. The two main approaches to address this issue are based on loss function modifications and instance resampling. Instance sampling is typically based on Generative Adversarial Networks (GANs), which may suffer from mode collapse. Therefore, there is a need for an oversampling method that is specifically tailored to deep learning models, can work on raw images while preserving their properties, and is capable of generating high quality, artificial images that can enhance minority classes and balance the training set. We propose DeepSMOTE - a novel oversampling algorithm for deep learning models. It is simple, yet effective in its design. It consists of three major components: (i) an encoder/decoder framework; (ii) SMOTE-based oversampling; and (iii) a dedicated loss function that is enhanced with a penalty term. An important advantage of DeepSMOTE over GAN-based oversampling is that DeepSMOTE does not require a discriminator, and it generates high-quality artificial images that are both information-rich and suitable for visual inspection. DeepSMOTE code is publicly available at: https://github.com/dd1github/DeepSMOTE

研究の動機と目的

• 画像のような複雑なデータにおいても継続的に発生するクラス不均衡の課題に対処すること。
• GANベースの手法がモード崩壊に悩まされるなど、既存のオーバーサンプリング手法の限界を克服すること。
• 生の画像上でエンドツーエンドに動作し、視覚的に現実的で、マイナスクラスの一般化性能を向上させる人工インスタンスを生成する手法を開発すること。
• 生成されたデータが高品質かつ解釈可能であることを保証し、視覚的検査や極端な不均衡比に耐性があること。
• 実世界の多様な深層学習アプリケーションに適した、シンプルで安定的かつチューニング可能なソリューションを提供すること。

提案手法

• 生の画像データの低次元で意味のある表現を学習するため、エンコーダ/デコーダ型の自己符号化器アーキテクチャを採用する。
• 学習された潜在空間でSMOTEベースのオーバーサンプリングを実行し、k番目の近隣者間の補間によって合成マイナスクラスサンプルを生成する。
• 表現学習の向上と一般化性能の向上を促進するため、ペナルティ項を含む特別な損失関数を統合する。
• 訓練済みエンコーダを用いて、実データおよび合成データを同じ潜在空間に埋め込むことで、パイプライン全体のエンドツーエンド学習を可能にする。
• 実データの意味的・構造的性質を保持した高精細な人工画像をデコーダから生成する。
• 判別器を必要とせず、GANベースの手法とは異なり、統一的かつ微分可能な形で全システムを訓練する。

実験結果

リサーチクエスチョン

• RQ1 SMOTEを深層自己符号化器フレームワークに効果的に統合し、クラス不均衡データ向けに高品質な合成画像を生成できるか？
• RQ2 提案手法であるDeepSMOTEは、分類精度と耐性の観点で、最先端のピクセルベースおよびGANベースのオーバーサンプリング手法を上回るか？
• RQ3 DeepSMOTEは、視覚的検査や下流の深層学習タスクに適した、視覚的に妥当で情報量の多い人工画像を生成できるか？
• RQ4 極端なクラス不均衡比や小さなサンプルサイズの下で、従来手法と比較してDeepSMOTEはどのように性能を発揮するか？
• RQ5 判別器が存在しないことで、深層学習ベースのオーバーサンプリングにおける学習安定性と一般化性能がどの程度向上するか？

主な発見

• DeepSMOTEは、さまざまな不均衡比を有する複数のベンチマークデータセットにおいて、最先端のGANベースおよびピクセルベースのオーバーサンプリング手法を顕著に上回る分類精度を達成した。
• 本手法は、実画像と見分けがつかない高品質な合成画像を生成し、効果的な視覚的検査と意味のあるデータ拡張が可能である。
• DeepSMOTEは極端なクラス不均衡や小さなサンプルサイズに対しても優れた耐性を示し、多様なデータ分布にわたり安定した性能を維持した。
• 判別器が存在しないため、GANベース手法にありがちなモード崩壊の問題が解消され、より一貫性があり信頼性の高い合成サンプルの生成が可能になった。
• シンプルで透明性のあるアーキテクチャにより、エンドツーエンドの学習が可能で、チューニングや実装が容易であり、既存の深層学習パイプラインへのプラグイン型統合が可能である。
• 合成インスタンスをクラス境界に沿って配置することで、DeepSMOTEは潜在空間における意思決定境界の学習を向上させ、深層モデルの識別性能を向上させた。