[論文レビュー] Towards Automated Melanoma Screening: Exploring Transfer Learning Schemes

Afonso Menegola, Michel Fornaciali+3 more|arXiv (Cornell University)|Sep 5, 2016

Cutaneous Melanoma Detection and Management参考文献 6被引用数 34

ひとこと要約

本稿では、深層学習を用いたメラノーマスクリーニングのための転移学習手法を調査し、一般ドメイン（ImageNet）およびドメイン特化型（網膜画像）のデータセットからの転移を、微調整の有無に関わらず比較している。驚くべきことに、ImageNetからの転移が関連する医療ドメインからの転移を上回り、順次的転移（2段階転移）の組み合わせは性能を悪化させた。これは、関連性のないが大規模なデータセットからの事前学習モデルが、医療画像分類タスクにおいてより一般化しやすい可能性を示唆している。

ABSTRACT

Deep learning is the current bet for image classification. Its greed for huge amounts of annotated data limits its usage in medical imaging context. In this scenario transfer learning appears as a prominent solution. In this report we aim to clarify how transfer learning schemes may influence classification results. We are particularly focused in the automated melanoma screening problem, a case of medical imaging in which transfer learning is still not widely used. We explored transfer with and without fine-tuning, sequential transfers and usage of pre-trained models in general and specific datasets. Although some issues remain open, our findings may drive future researches.

研究の動機と目的

• 異なる転移学習手法がメラノーマ分類性能に与える影響を評価すること。
• 関連する医療ドメイン（例：網膜画像）からの転移が、一般ドメインの事前学習（例：ImageNet）よりも結果を改善するかを調査すること。
• 小規模データにおける医療画像分類タスクにおける微調整の役割を評価すること。
• 2段階の転移（順次的転移）が最終モデルの性能を向上させるかを特定すること。
• 特にメラノーマスクリーニングを想定した医療画像分野における転移学習の実務的指針を提供すること。

提案手法

• すべての実験でVGG-M深層ニューラルネットワークアーキテクチャを用いた。
• 事前学習モデルの初期層を凍結し、メラノーマデータセット上で最終層を再訓練することで、転移学習を適用した。
• 微調整（エンドツーエンド学習）と非微調整（特徴抽出のみ）の両方の戦略を評価した。
• 最終予測のための公平な比較を可能にするために、ペンultimate層の特徴量にSVM分類器を適用した。
• ImageNetおよび医療ドメインデータセット（糖尿病性網膜症画像）からの事前学習モデルを用いて実験を行った。
• 結合的転移を実施：まずImageNetから網膜画像へ、次に網膜画像からメラノーマ画像へ転移した。

実験結果

リサーチクエスチョン

• RQ1 一般ドメインデータセット（ImageNet）からの転移が、特定の医療ドメイン（網膜画像）からの転移を上回るのか、メラノーマ分類において有効か？
• RQ2 訓練データが限られた状況で、微調整が分類性能に与える影響は？
• RQ3 1段階の転移と比較して、2段階の転移（順次的転移）が最終性能を向上させるのか？
• RQ4 結果はデータセットサイズ、アノテーション品質、データの不均衡に対してどれほど感受性を示すか？
• RQ5 交差検証のfoldの構成といった実験設計の影響は、モデル性能にどのように現れるか？

主な発見

• 一般ドメイン（ImageNet）からの転移が、関連する医療ドメイン（網膜画像）からの転移を上回った。微調整ありでは69.8% mAP、微調整なしでは49.3% mAPを達成した。
• 結合的転移（ImageNet → 網膜画像 → メラノーマ画像）は、1段階の転移よりも性能が悪く、わずか57.4% mAPにとどまった。これは、最初の転移ステップでImageNetからの知識が部分的に消去された可能性を示唆している。
• 微調整は性能を顕著に向上させた：メラノーマ対良性分類において、mAPは微調整なしの57.1%から微調整ありの69.8%に上昇した。
• メラノーマと基底細胞癌を陽性クラスとしてグループ化することで、分類精度（mAP：微調整ありで73.0%）が向上した。これは、クラスの不均衡が軽減されたためと推測される。
• 基底細胞癌をデータセットから除外すると性能が低下した。これは、より多様な陽性例がモデルの一般化能力を向上させたことを示している。
• 実験設計の感受性が観察された：データfoldの構成にわずかな変更を加えるだけで結果に大きな影響を与えた。これは、堅牢な評価プロトコルの重要性を強調している。