[論文レビュー] Disease Classification within Dermascopic Images Using features extracted by ResNet50 and classification through Deep Forest

Sounak Ray|arXiv (Cornell University)|Jul 16, 2018

Cutaneous Melanoma Detection and Management被引用数 4

ひとこと要約

本論文は、事前学習済みのResNet50を用いた特徴抽出と、木ベースのアンサンブルモデルであるDeep Forestを用いた分類による、皮膚腫瘍分類のハイブリッドディープラーニングアプローチを提案する。この手法は、ISIC 2018データセットにおいて、特にデータ量が少なく、クラスに偏りがある状況下でも、Deep Forestの適応的複雑性とクラス不均衡に対する耐性を活かして、競争力ある性能を達成する。

ABSTRACT

In this report we propose a classification technique for skin lesion images as a part of our submission for ISIC 2018 Challenge in Skin Lesion Analysis Towards Melanoma Detection. Our data was extracted from the ISIC 2018: Skin Lesion Analysis Towards Melanoma Detection grand challenge datasets. The features are extracted through a Convolutional Neural Network, in our case ResNet50 and then using these features we train a DeepForest, having cascading layers, to classify our skin lesion images. We know that Convolutional Neural Networks are a state-of-the-art technique in representation learning for images, with the convolutional filters learning to detect features from images through backpropagation. These features are then usually fed to a classifier like a softmax layer or other such classifiers for classification tasks. In our case we do not use the traditional backpropagation method and train a softmax layer for classification. Instead, we use Deep Forest, a novel decision tree ensemble approach with performance highly competitive to deep neural networks in a broad range of tasks. Thus we use a ResNet50 to extract the features from skin lesion images and then use the Deep Forest to classify these images. This method has been used because Deep Forest has been found to be hugely efficient in areas where there are only small-scale training data available. Also as the Deep Forest network decides its complexity by itself, it also caters to the problem of dataset imbalance we faced in this problem.

研究の動機と目的

• 限られた学習データを用いた皮膚腫瘍の皮膚鏡的画像分類の課題に対処すること。
• 小規模および不均衡なデータセットにおいて、ソフトマックスのような従来のディープラーニング分類器の限界を克服すること。
• ResNet50が抽出した特徴に対して、Softmaxの代替としてDeep Forestの有効性を検証すること。
• トランスファーラーニングと、頑健で適応的なアンサンブルモデルを組み合わせることで、メラノーマ検出の正確性を向上させること。

提案手法

• 皮膚鏡的画像から、事前学習済みのResNet50モデルを用いて特徴を抽出する。
• ResNet50の最終全結合層から得られた特徴を分類の入力として使用する。
• 従来のソフトマックス分類器の代わりに、抽出された特徴に対してDeep Forestモデルを訓練する。
• Deep Forestは、階層的表現を学習し、予測を行うために、ランダムフォレストの段階的層を用いる。
• モデルはデータの特性に応じて複雑性を自動で調整するため、小規模データセットでの過学習を低減する。
• 分類にはバックプロパゲーションを避けて、木ベースのアンサンブル学習に依存することで、頑健性を確保する。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みResNet50から抽出した特徴に対して、Deep Forestが従来のソフトマックス分類器を上回る性能を示せるか？
• RQ2 ResNet50による特徴抽出とDeep Forestによる分類の組み合わせは、小規模な皮膚鏡的データセットの処理においてどの程度有効か？
• RQ3 Deep Forestは、皮膚腫瘍データセットに一般的に見られるクラス不均衡問題をどの程度軽減できるか？
• RQ4 Deep Forestの適応的複雑性は、限られた学習データにおける一般化性能の向上に寄与するか？

主な発見

• 提案手法は、ISIC 2018データセットにおいて競争力ある分類性能を達成し、限られたデータでも優れた一般化性能を示した。
• Deep Forestはデータセットの不均衡を効果的に処理し、多数クラスへのバイアスを低減した。
• モデルの自動的複雑性調整により、特に小規模な学習環境下で過学習が抑制された。
• 同じ特徴を用いた場合、ハイブリッドアプローチは従来のソフトマックス分類を上回り、特に低データ環境下で顕著な優位性を示した。