[論文レビュー] Deep Convolutional Neural Networks for Computer-Aided Detection: CNN Architectures, Dataset Characteristics and Transfer Learning

Hoo-Chang Shin, Holger R. Roth+7 more|arXiv (Cornell University)|Feb 10, 2016

COVID-19 diagnosis using AI参考文献 53被引用数 45

ひとこと要約

この論文は、医療画像における画像診断支援（CADe）のための深層畳み込みニューラルネットワーク（CNN）を評価し、CNNアーキテクチャ、データセット規模、およびトランスファー学習に焦点を当てている。微調整されたImageNet事前学習モデルが、リンパ節検出（1患者あたり3件の偽陽性で85％の感度）において顕著に性能向上を示し、間質性肺疾患分類のための最初の5分割交差検証結果を達成した。

ABSTRACT

Remarkable progress has been made in image recognition, primarily due to the availability of large-scale annotated datasets and the revival of deep CNN. CNNs enable learning data-driven, highly representative, layered hierarchical image features from sufficient training data. However, obtaining datasets as comprehensively annotated as ImageNet in the medical imaging domain remains a challenge. There are currently three major techniques that successfully employ CNNs to medical image classification: training the CNN from scratch, using off-the-shelf pre-trained CNN features, and conducting unsupervised CNN pre-training with supervised fine-tuning. Another effective method is transfer learning, i.e., fine-tuning CNN models pre-trained from natural image dataset to medical image tasks. In this paper, we exploit three important, but previously understudied factors of employing deep convolutional neural networks to computer-aided detection problems. We first explore and evaluate different CNN architectures. The studied models contain 5 thousand to 160 million parameters, and vary in numbers of layers. We then evaluate the influence of dataset scale and spatial image context on performance. Finally, we examine when and why transfer learning from pre-trained ImageNet (via fine-tuning) can be useful. We study two specific computer-aided detection (CADe) problems, namely thoraco-abdominal lymph node (LN) detection and interstitial lung disease (ILD) classification. We achieve the state-of-the-art performance on the mediastinal LN detection, with 85% sensitivity at 3 false positive per patient, and report the first five-fold cross-validation classification results on predicting axial CT slices with ILD categories. Our extensive empirical evaluation, CNN model analysis and valuable insights can be extended to the design of high performance CAD systems for other medical imaging tasks.

研究の動機と目的

• CNNアーキテクチャの深さと幅が、医療画像分類性能に与える影響を調査すること。
• データセットサイズと空間的画像コンテキストが、画像診断支援におけるCNN性能に与える影響を分析すること。
• ImageNet事前学習モデルからのトランスファー学習の有効性を、医療画像認識タスクにおいて評価すること。
• 微調整されたCNNを用いて、前縦隔リンパ節検出で最先端の性能を確立すること。
• 軸方向CTを用いた間質性肺疾患分類のための最初の5分割交差検証結果を提供すること。

提案手法

• パラメータ数が5,000万から1億6,000万にわたる、AlexNet、GoogLeNetおよびそれらの深層版を含む複数のCNNアーキテクチャを評価。
• 3つの訓練戦略を比較：初期化から訓練する方法、市販の事前学習特徴を用いる方法、ImageNet事前学習モデルを微調整する方法。
• 2つの医療画像認識タスク（リンパ節検出とILD分類）に対して、ImageNet事前学習CNNの微調整を用いてトランスファー学習を実施。
• 3次元CTデータを処理し、訓練サンプルの多様性を向上させるために、2次元スライスベース分類とマルチプランアーキテクチャリサンプリングを採用。
• 特徴マップのデコンボリューション可視化を用いて、訓練済みモデルの局在化能力を解釈・評価。
• ILD分類に対して5分割交差検証を実施し、リンパ節検出の感度と偽陽性率を報告。

実験結果

リサーチクエスチョン

• RQ1 限られた学習データを用いた医療画像検出タスクにおいて、深さと幅が異なるさまざまなCNNアーキテクチャは、どのように性能を発揮するか？
• RQ2 データセット規模と空間的コンテキストが、画像診断支援におけるCNN性能に与える影響は何か？
• RQ3 ImageNet事前学習モデルからのトランスファー学習は、医療画像分類においていつ、なぜ有益なのか？
• RQ4 微調整されたImageNetモデルは、小規模な医療画像データセットにおいて、初期化から訓練したモデルを上回る性能を発揮できるか？
• RQ5 特徴活性化マップと可視化技術は、医療画像における訓練済みCNNの局在化能力をどのように反映するか？

主な発見

• ImageNet事前学習CNNの微調整により、前縦隔リンパ節検出で最先端の性能が達成され、1患者あたり3件の偽陽性で85％の感度を達成した。
• 本研究は、軸方向CTスライスを間質性肺疾患のカテゴリに分類するための最初の5分割交差検証結果を報告し、堅牢な性能評価を可能にした。
• 最大22層の深層CNNアーキテクチャで、限られた学習データでも優れた性能を示した。これは、医療画像認識において小規模モデルが必須であるという仮定に疑問を呈するものである。
• ImageNetからのトランスファー学習は一貫して分類精度を向上させ、医療画像解析における事前学習された階層的特徴の価値を示した。
• 最後のプーリング層の活性化マップの可視化により、微調整済みモデル（AlexNet-TL）が非微調整モデル（AlexNet-ImNet）よりも疾患領域をよりよく局在化していることが明らかになった。
• 初期化から訓練したモデルとトランスファー学習を用いたモデルとの性能差は、特に小規模データセットで顕著に現れ、データが不足する環境下でのトランスファー学習の重要性を示した。