[論文レビュー] Evaluation of Transfer Learning for Classification of: (1) Diabetic Retinopathy by Digital Fundus Photography and (2) Diabetic Macular Edema, Choroidal Neovascularization and Drusen by Optical Coherence Tomography

Rony Gelman|arXiv (Cornell University)|Jan 26, 2019

Retinal Imaging and Analysis参考文献 27被引用数 4

ひとこと要約

本学位論文は、網膜写真からの糖尿病性網膜症（DR）の分類および光学干渉断層画像（OCT）画像からの糖尿病性黄斑浮腫（DME）、脈絡膜新生血管形成（CNV）、ドリューゼンの分類を目的として、事前学習済みの深層畳み込みニューラルネットワーク（DenseNet、ResNet、Inception、VGG、AlexNet）を用いたトランスファー学習の有効性を評価している。結果として、事前学習モデルのファインチューニングにより、DR分類で最大94.5％の高い正確性が達成され、初期化をランダムにした学習に比べて顕著に優れていることが示され、低データ医療画像分野におけるトランスファー学習の実現可能性と優位性が裏付けられた。

ABSTRACT

Deep learning has been successfully applied to a variety of image classification tasks. There has been keen interest to apply deep learning in the medical domain, particularly specialties that heavily utilize imaging, such as ophthalmology. One issue that may hinder application of deep learning to the medical domain is the vast amount of data necessary to train deep neural networks (DNNs). Because of regulatory and privacy issues associated with medicine, and the generally proprietary nature of data in medical domains, obtaining large datasets to train DNNs is a challenge, particularly in the ophthalmology domain. Transfer learning is a technique developed to address the issue of applying DNNs for domains with limited data. Prior reports on transfer learning have examined custom networks to fully train or used a particular DNN for transfer learning. However, to the best of my knowledge, no work has systematically examined a suite of DNNs for transfer learning for classification of diabetic retinopathy, diabetic macular edema, and two key features of age-related macular degeneration. This work attempts to investigate transfer learning for classification of these ophthalmic conditions. Part I gives a condensed overview of neural networks and the DNNs under evaluation. Part II gives the reader the necessary background concerning diabetic retinopathy and prior work on classification using retinal fundus photographs. The methodology and results of transfer learning for diabetic retinopathy classification are presented, showing that transfer learning towards this domain is feasible, with promising accuracy. Part III gives an overview of diabetic macular edema, choroidal neovascularization and drusen (features associated with age-related macular degeneration), and presents results for transfer learning evaluation using optical coherence tomography to classify these entities.

研究の動機と目的

• 網膜写真およびOCT画像における眼科画像分類における、複数の事前学習済み深層畳み込みニューラルネットワークを体系的に評価すること。
• 低データ医療画像環境下におけるトランスファー学習と初期化をランダムにした学習の性能を比較すること。
• 固定特徴抽出とファインチューニングの2つのトランスファー学習戦略を、網膜被膜写真およびOCT画像において比較すること。
• 多様な深層学習アーキテクチャを用いて、糖尿病性網膜症（DR）、糖尿病性黄斑浮腫（DME）、脈絡膜新生血管形成（CNV）、ドリューゼンの分類正確性を評価すること。
• 事前学習済みモデルと非事前学習済みモデル間の性能差の統計的有意性に関する実証的証拠を提供すること。

提案手法

• ImageNetで事前学習済みの5つの深層畳み込みニューラルネットワーク（ResNet-18、DenseNet-161、Inception_v3、VGG-19、AlexNet）を用いた。
• 2つの異なる医療画像分類タスクにトランスファー学習を適用した：(1) Kaggleデータセットを用いた網膜被膜写真からの糖尿病性網膜症分類、(2) OCTスキャンからのDME、CNV、ドリューゼンの分類。
• 2つのトランスファー学習戦略を評価した：(a) 事前学習済みネットワークを固定特徴抽出器として使用する、(b) ネットワークの最終層をファインチューニングする。
• 網膜被膜画像では50エポック、OCT画像では25エポックを訓練し、標準的な交差エントロピー損失関数とAdam最適化手法を用いた。
• モデル性能の比較に、ウィルコクソン符号順位検定およびマン・ホイットニーU検定を用いた統計的分析を実施した。
• すべてのモデルについて、混同行列を併記した正確性、感度、特異度、および加重カッパ係数を報告した。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みモデルを用いたトランスファー学習は、初期化をランダムにした学習と比較して、網膜被膜写真からの糖尿病性網膜症分類の正確性を顕著に向上させるか？
• RQ2 糖尿病性網膜症分類において、どの事前学習済み深層畳み込みニューラルネットワークアーキテクチャが最も優れた性能を示すか？
• RQ3 眼科画像分類におけるトランスファー学習において、ファインチューニングは固定特徴抽出よりも一貫して優れているか？
• RQ4 異なるトランスファー学習戦略（特徴抽出対ファインチューニング）は、OCT画像における複数の眼科疾患（DME、CNV、ドリューゼン）の分類でどのように性能を示すか？
• RQ5 事前学習済みモデルと非事前学習済みモデル間の性能差は統計的に有意であるか？

主な発見

• 事前学習済みモデルのファインチューニングにより、網膜被膜画像における糖尿病性網膜症分類で最大94.5％のテスト正確性が達成され、初期化をランダムにした学習に比べ顕著に優れていた。
• ResNet-18およびDenseNet-161アーキテクチャは、すべての評価モデルの中で糖尿病性網膜症分類において最も高い性能を示し、ファインチューニング時において90％を超える正確性を達成した。
• 統計的検定により、事前学習済みモデルを用いたファインチューニングが、非事前学習済みモデルに比べ顕著に低い損失と高い正確性を達成していることが確認された（ほとんどの比較でp < 0.05）。
• OCT画像分類においては、DenseNet-161およびInception_v3が優れた性能を示し、混同行列からDMEおよびCNV検出における高い感度と特異度が示された。
• 事前学習済みモデルを固定特徴抽出器として使用した場合も、網膜被膜画像およびOCT画像の両タスクで85％を超える正確性が得られたが、ファインチューニングに比べ一貫して低い水準であった。
• 事前学習済みモデルと非事前学習済みモデルの間には顕著な性能差が観察され、複数の比較でp値が0.001未満であったため、トランスファー学習の利点が統計的に有意であることが確認された。