[論文レビュー] Skin disease identification from dermoscopy images using deep convolutional neural network

Anabik Pal, Sounak Ray+1 more|arXiv (Cornell University)|Jul 24, 2018

Cutaneous Melanoma Detection and Management参考文献 9被引用数 15

ひとこと要約

この論文では、皮膚疾患の分類を目的とした、微調整された深層畳み込みニューラルネットワーク（ResNet50、DenseNet-121、MobileNet）のアンサンブルを提案する。データの不均衡を解消するための転移学習と重み付き損失を活用することで、ISIC 2018チャレンジの検証セットにおいて、分類確率の多数決による予測を統合したアンサンブルモデルが、7つの皮膚疾患カテゴリに分類する際、バランス精度0.775を達成した。これは、個々のモデルを上回る性能を示した。

ABSTRACT

In this paper, a deep neural network based ensemble method is experimented for automatic identification of skin disease from dermoscopic images. The developed algorithm is applied on the task3 of the ISIC 2018 challenge dataset (Skin Lesion Analysis Towards Melanoma Detection).

研究の動機と目的

• 皮膚疾患の分類精度を、皮膚画像のデルモスコピック画像から深層学習を用いて向上させること。
• トレーニング中に重み付き損失を用いることで、ISIC 2018データセットのクラス不均衡を是正すること。
• 事前学習済みの畳み込みニューラルネットワークを微調整することで、転移学習を活用し、皮膚画像分類タスクに適用すること。
• 複数の最先端アーキテクチャ（ResNet50、DenseNet-121、MobileNet）の予測を統合することで、アンサンブル学習を用いて性能を向上させること。
• メラノーマ、メラノサイト性ネビ、基底細胞癌、アクチニック・ケラトーシス、良性ケラトーシス、線維芽腫、血管病変の7つの皮膚病変タイプにわたる強固な分類を達成すること。

提案手法

• ISIC 2018のデルモスコピック画像データセット上で、事前学習済みの深層ニューラルネットワーク（ResNet50、DenseNet-121、MobileNet）を微調整した。
• データのハンチングを軽減するため、ImageNetで事前学習されたモデルの重みを初期値として使用することで、転移学習を実装した。
• トレーニング中にクラス重み付き損失をバックプロパゲーションすることで、クラスの不均衡を是正した。
• まず、最終層以外のすべての層を凍結し（7クラス分類用に出力ユニット数を7に再設定）、高い初期学習率（0.01）で10エポック、早期停止（忍耐度=5）を適用して学習した。
• 次に、すべての層をアンフリーズし、低い学習率（0.001）で100エポック、再び早期停止（忍耐度=10）を適用して微調整した。
• データ増強として水平および垂直の反転を適用し、3つのモデルからの分類確率マップの多数決による予測を統合した。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みの深層畳み込みニューラルネットワークのアンサンブルは、個々のモデルと比較して、皮膚病変の診断における分類精度を向上させることができるか？
• RQ2 重み付き損失を用いた転移学習は、皮膚画像データセットにおけるクラス不均衡に起因する性能低下を緩和するのにどの程度効果的か？
• RQ3 異なるアーキテクチャ（ResNet50、DenseNet-121、MobileNet）の予測をアンサンブル学習で統合することで、単一モデルよりも優れた一般化性能が得られるか？
• RQ4 段階的微調整（最初にすべての層を凍結し、その後すべてをアンフリーズ）は、モデルの収束性と性能にどのような影響を与えるか？
• RQ5 反転によるデータ増強は、皮膚病変分類におけるロバスト性と一般化性能をどの程度向上させるか？

主な発見

• ResNet50とMobileNetのアンサンブルは、ISIC 2018の検証セットでバランス精度0.771を達成し、個々のモデルを上回った。
• 3つのモデル（ResNet50、DenseNet-121、MobileNet）を含む完全なアンサンブルは、最高のバランス精度0.775を記録し、モデル平均化の有効性を示した。
• ResNet50単体が、バランス精度0.773を達成し、データセット全体にわたる優れた一般化性能を示した。
• DenseNet-121はバランス精度0.698を記録し、深層構造と密接接続を有するにもかかわらず、中程度の性能にとどまった。
• MobileNetは個々のモデルの中で最も低い精度0.597を記録し、軽量設計と複雑なデルモスコピックパターンを表現する能力の不足が原因と考えられる。
• アンサンブル化により個々のモデルの性能が向上し、ResNet50–DenseNet-121およびResNet50–MobileNetのペアは、それぞれ個々のモデルと比較して0.004および0.002の向上を示した。