[論文レビュー] SuperCon: Supervised Contrastive Learning for Imbalanced Skin Lesion Classification

Keyu Chen, Di Zhuang+1 more|arXiv (Cornell University)|Feb 11, 2022

Cutaneous Melanoma Detection and Management被引用数 5

ひとこと要約

本論文では、最初に教師付き対照的損失を用いてクラスに依存する、分離可能な特徴表現を学習する2段階の訓練戦略であるSuperConを提案する。その後、不均衡な皮膚腫瘍データセットにおける分類器の性能を向上させるためにフォーカル損失によるファインチューニングを行う。この手法は最先端の結果を達成し、既存の手法と比較して平均でF1スコアを0.33、AUCを0.032向上させた。

ABSTRACT

Convolutional neural networks (CNNs) have achieved great success in skin lesion classification. A balanced dataset is required to train a good model. However, due to the appearance of different skin lesions in practice, severe or even deadliest skin lesion types (e.g., melanoma) naturally have quite small amount represented in a dataset. In that, classification performance degradation occurs widely, it is significantly important to have CNNs that work well on class imbalanced skin lesion image dataset. In this paper, we propose SuperCon, a two-stage training strategy to overcome the class imbalance problem on skin lesion classification. It contains two stages: (i) representation training that tries to learn a feature representation that closely aligned among intra-classes and distantly apart from inter-classes, and (ii) classifier fine-tuning that aims to learn a classifier that correctly predict the label based on the learnt representations. In the experimental evaluation, extensive comparisons have been made among our approach and other existing approaches on skin lesion benchmark datasets. The results show that our two-stage training strategy effectively addresses the class imbalance classification problem, and significantly improves existing works in terms of F1-score and AUC score, resulting in state-of-the-art performance.

研究の動機と目的

• 悪性（例：メラノーマ）の腫瘍がまれであるが、正確に検出することが重要である皮膚腫瘍分類における深刻なクラス不均衡の課題に対処すること。
• データ分布に敏感で、データセット間での一般化能力に欠ける既存手法の限界を克服すること。
• クラスのサンプル不均衡に依存しない、強固で判別力のある特徴表現を学習できるように、ディープラーニングモデルの能力を向上させること。
• データオーグメンテーションや複雑なアンサンブルモデルに依存せずに、マイノリティクラス（例：メラノーマ）で優れた性能を達成すること。
• 極端なクラス不均衡下でも、クラス内特徴を分離し、クラス間特徴を離隔させる訓練戦略を開発すること。

提案手法

• 最初の段階で教師付き対照的損失を用い、各クラス内で特徴が密に凝集し、クラス間で明確に分離された特徴表現を学習する。
• 同じクラスのサンプル間の類似度を最大化し、異なるクラス間の類似度を最小化する対照的目的関数を用いて表現ヘッドを訓練する。
• 最初の段階でバックボーンと表現ヘッドを固定し、その後フォーカル損失を用いて分類器ヘッドのみをファインチューニングすることで、多数クラスのサンプルの影響を軽減する。
• フォーカル損失を用いて交差エントロピー損失を再重み付けし、困難に分類されるサンプルに注目し、容易に分類可能な多数クラスの例の影響を最小化する。
• 2段階を逐次的に訓練する：まず表現学習を行い、次にフォーカル損失を用いた分類器のファインチューニングを行う。
• t-SNE可視化を用いて学習された特徴表現を分析し、クラス分離性の向上を検証する。

実験結果

リサーチクエスチョン

• RQ1 表現学習と分類器訓練を分離する2段階の訓練戦略は、不均衡な皮膚腫瘍分類において性能を向上させることができるか？
• RQ2 マイノリティクラスが不足している状況下でも、教師付き対照的学習は判別力があり、クラスに依存する表現を効果的に学習できるか？
• RQ3 教師付き対照的損失とフォーカル損失を組み合わせることで、既存のデータレベル、損失レベル、モデルレベルのアプローチを上回る性能を達成できるか、その程度は？
• RQ4 SuperConの性能は、表現学習段階におけるエポック数に対してどれほど感受性を示すか？
• RQ5 ISIC 2019とISIC 2020のような、異なるデータ分布を持つデータセット間で一般化できるか？

主な発見

• SuperConは、不均衡な皮膚腫瘍データセットにおいて、既存の最先端手法と比較して平均でF1スコアが0.33、AUCが0.032向上した。
• ISIC 2020データセットでは、フォーカル損失を用いた手法と比較して、F1スコアで0.34、AUCで0.30の優位性を示し、極めて不均衡なデータにおいて優れた性能を発揮した。
• 混同行列の結果から、SuperConは、VanillaやFocal-Loss、ROSとは異なり、高い真正陽性率と高い真正陰性率を同時に達成していることがわかった。
• t-SNE可視化により、SuperConは異なる皮膚腫瘍クラスに対して重複のない、明確に分離された特徴表現を学習していることが確認された。これは、Vanilla、Focal-Loss、ROSとは対照的である。
• SuperConの性能は、最初の段階におけるエポック数に対して感受性を示しており、最適な表現学習のためには適切なハイパーパramータチューニングが不可欠であることが示された。
• 表現学習段階でISIC 2019の分布外データを追加すると性能が低下したため、データセット間のドメインシフトが表現学習に悪影響を及える可能性があることが示唆された。