[論文レビュー] RECOD Titans at ISIC Challenge 2017

Afonso Menegola, Julia Tavares+4 more|arXiv (Cornell University)|Mar 14, 2017

Cutaneous Melanoma Detection and Management参考文献 9被引用数 86

ひとこと要約

本論文は RECOD Titans の ISIC 2017 参加を記録している。 Part 1 は transfer learning を用いた U-net ベースのセグメンテーションをベースラインとし、Part 3 は深層モデルを用いたメラノーマ分類に取り組み、広範なデータ収集・拡張・モデルアンサンブルを行い、公式の検証 AUC を 0.793 で達成した。

ABSTRACT

This extended abstract describes the participation of RECOD Titans in parts 1 and 3 of the ISIC Challenge 2017 "Skin Lesion Analysis Towards Melanoma Detection" (ISBI 2017). Although our team has a long experience with melanoma classification, the ISIC Challenge 2017 was the very first time we worked on skin-lesion segmentation. For part 1 (segmentation), our final submission used four of our models: two trained with all 2000 samples, without a validation split, for 250 and for 500 epochs respectively; and other two trained and validated with two different 1600/400 splits, for 220 epochs. Those four models, individually, achieved between 0.780 and 0.783 official validation scores. Our final submission averaged the output of those four models achieved a score of 0.793. For part 3 (classification), the submitted test run as well as our last official validation run were the result from a meta-model that assembled seven base deep-learning models: three based on Inception-V4 trained on our largest dataset; three based on Inception trained on our smallest dataset; and one based on ResNet-101 trained on our smaller dataset. The results of those component models were stacked in a meta-learning layer based on an SVM trained on the validation set of our largest dataset.

研究の動機と目的

• データ不足の医療環境における深層学習によるメラノーマ/皮膚病変分類の動機づけ。
• ISIC Challenge 2017 への Part 1（セグメンテーション）および Part 3（分類）の貢献を説明する。
• 転移学習、データ拡張、アンサンブルが性能向上に寄与する方法を示す。

提案手法

• Part 1 は公的データセットとオンライン拡張を用いた U-net 風のセグメンテーションネットワークをベースラインとして用いる。
• ImageNet 事前学習ネットワーク（VGG-16 ベース）からの転移、Dice loss、Adam オプティマイザー、およびグラウンドトゥルースマスクの前処理。
• 公式検証スコアを最大化するため、複数のネットワークアーキテクチャ（VGG ベース、U-net の変種、バッチ正規化）とモデルアンサンブルを用いた実験。

実験結果

リサーチクエスチョン

• RQ1 大規模画像データセットからの転移学習は皮膚病変のセグメンテーションと分類性能にどう影響するか？
• RQ2 データ拡張と正規化戦略のどれが、メラノーマ課題におけるセグメンテーション精度と分類 AUC を最も改善するか？
• RQ3 アンサンブル／メタラーニング手法は ISIC 2017 のタスクで個々のモデルを上回れるか？
• RQ4 データセット構成とデデュプリケーションが内部検証と公式検証の性能に与える影響は？

主な発見

• 最終 Part 1 提出は個々のモデルで公式検証スコアが 0.780 〜 0.783、平均アンサンブルスコアが 0.793 を達成。
• より深いモデルとより大規模データセットおよび拡張を組み合わせると最良の性能を得られ、画像ごとの正規化は一部のモデルで利得をもたらした。
• メタラーニング SVM を用いたスタッキングは、一般に単一モデルの予測より結果を改善した。
• semi-deploy および deploy データセットの使用と、積極的なメタ学習アンサンブルにより公式の検証 AUC が最高となった。
• 検討したいくつかのアイデア（例：より大きい画像解像度、複雑な重み付け、カリキュラム学習）は、時間制約の下で性能向上にはつながらなかった。