[論文レビュー] Low-cost and high-performance data augmentation for deep-learning-based skin lesion classification

Shuwei Shen, Mengjuan Xu+9 more|arXiv (Cornell University)|Jan 7, 2021

Cutaneous Melanoma Detection and Management参考文献 50被引用数 8

ひとこと要約

本論文は、H期10000データセット上で性能を最適化するため、自動増幅探索とニューラルアーキテクチャ探索を組み合わせた低コストで高パフォーマンスなデータ拡張戦略を提案する。探索空間を60に制限し、EfficientNetをベースラインとして用いることで、外部データを一切使用せず、バランス精度が0.853に達する。この手法により、リソースが限られた環境におけるモバイルデバイスへの効率的なデプロイが可能になる。

ABSTRACT

Although deep convolutional neural networks (DCNNs) have achieved significant accuracy in skin lesion classification comparable or even superior to those of dermatologists, practical implementation of these models for skin cancer screening in low resource settings is hindered by their limitations in computational cost and training dataset. To overcome these limitations, we propose a low-cost and high-performance data augmentation strategy that includes two consecutive stages of augmentation search and network search. At the augmentation search stage, the augmentation strategy is optimized in the search space of Low-Cost-Augment (LCA) under the criteria of balanced accuracy (BACC) with 5-fold cross validation. At the network search stage, the DCNNs are fine-tuned with the full training set in order to select the model with the highest BACC. The efficiency of the proposed data augmentation strategy is verified on the HAM10000 dataset using EfficientNets as a baseline. With the proposed strategy, we are able to reduce the search space to 60 and achieve a high BACC of 0.853 by using a single DCNN model without external database, suitable to be implemented in mobile devices for DCNN-based skin lesion detection in low resource settings.

研究の動機と目的

• 低リソース環境における皮膚がんスクリーニングのためのディープラーニングモデルをデプロイする際の、高い計算コストと限られたトレーニングデータの課題に対処すること。
• 外部データや高価な計算リソースに依存せずに、モデルの一般化性能を向上させるデータ拡張戦略を開発すること。
• 探索ベースの手法を用いて、同時にデータ拡張とニューラルネットワークアーキテクチャを最適化すること。
• 軽量モデルを用いて、モバイルデバイスに適した効率的で高精度な皮膚腫瘍分類を実現すること。
• オリジナルのトレーニングデータと単一のDCNNモデルのみを用いて、H期10000データセットで最先端のパフォーマンスを達成すること。

提案手法

• 本手法は二段階の探索フレームワークを採用する：まず増幅探索を行い、次にネットワーク探索を行う。
• 増幅探索段階では、計算コストが低い増幅法（LCA）が探索空間として定義され、mixup、cutout、auto-augmentなどが含まれる。
• 増幅戦略は、バランス精度（BACC）を評価指標として用い、5分割交差検証によって最適化される。
• ネットワーク探索段階では、全トレーニングセットで微調整されたEfficientNetのバリエーション群から最良のモデルが選ばれる。
• 探索プロセスは自動的かつ効率的であり、有効な探索空間をわずか60の異なる設定にまで縮小する。
• 最終的なモデルは、全データセットを用いてエンドツーエンドで訓練され、H期10000ベンチマークでのみ評価される。

実験結果

リサーチクエスチョン

• RQ1 外部データを一切使用せずに、低コストなデータ拡張戦略が皮膚腫瘍分類の精度を顕著に向上させることができるか？
• RQ2 高いパフォーマンスを維持しつつ、データ拡張の探索空間を効果的に縮小できるか？
• RQ3 データ拡張とネットワークアーキテクチャを同時に最適化することで、逐次的または手動設計よりも優れた結果が得られるか？
• RQ4 オリジナルのトレーニングデータと自動探索のみを用いて、単一のDCNNモデルがH期10000で高い性能を達成できる程度にまで到達できるか？
• RQ5 提案手法は、リソースが限られた臨床環境におけるモバイルデバイスへのデプロイに適しているか？

主な発見

• 提案手法は、外部データを一切使用せず、H期10000データセットでバランス精度0.853を達成し、ベースラインモデルを上回る性能を示した。
• 探索空間がわずか60の設定にまで縮小され、標準的な探索手法と比較して計算コストが顕著に低減された。
• 単一のDCNNモデルを用いることで、アンサンブルモデルや外部データセットの必要なしに高パフォーマンスな皮膚腫瘍分類が可能になった。
• 最終モデルは、計算リソースの消費が少なく、高い効率性を示すため、モバイルデバイスへのデプロイに適している。
• 増幅探索からネットワーク探索への二段階探索フレームワークは、データおよびモデルの最適設定を効果的に同定した。
• 自動的かつ低コストな増幅が、より複雑でリソースを多く消費するアプローチと同等またはそれ以上の性能を達成できることを示した。