[論文レビュー] Classification of Diabetic Retinopathy using Pre-Trained Deep Learning Models

Inas Mudheher Raghib Kafı Al-Kamachy, Hassanpour, Reza+1 more|arXiv (Cornell University)|Mar 29, 2024

Retinal Imaging and AnalysisMedicine被引用数 3

ひとこと要約

本研究では、糖尿病網膜症を5段階（正常から増殖性DR）に多クラス分類するため、微調整された事前学習済み深層学習モデル（VGG-16、MobileNet、InceptionV3、InceptionResNetV2）を用いたコンピュータ支援診断システムを提案する。Kaggleのデータセットから1,000枚の眼底画像を用い、データ拡張とトランスファーラーニングを実施したところ、InceptionResNetV2が0.69のAUCを達成し、他のモデルを上回った。これは、医療画像分類においてその深さとアーキテクチャの効率性のおかげである。

ABSTRACT

Diabetic Retinopathy (DR) stands as the leading cause of blindness globally, particularly affecting individuals between the ages of 20 and 70. This paper presents a Computer-Aided Diagnosis (CAD) system designed for the automatic classification of retinal images into five distinct classes: Normal, Mild, Moderate, Severe, and Proliferative Diabetic Retinopathy (PDR). The proposed system leverages Convolutional Neural Networks (CNNs) employing pre-trained deep learning models. Through the application of fine-tuning techniques, our model is trained on fundus images of diabetic retinopathy with resolutions of 350x350x3 and 224x224x3. Experimental results obtained on the Kaggle platform, utilizing resources comprising 4 CPUs, 17 GB RAM, and 1 GB Disk, demonstrate the efficacy of our approach. The achieved Area Under the Curve (AUC) values for CNN, MobileNet, VGG-16, InceptionV3, and InceptionResNetV2 models are 0.50, 0.70, 0.53, 0.63, and 0.69, respectively.

研究の動機と目的

• 深層学習を用いて、自動的で正確かつスケーラブルな糖尿病網膜症（DR）のコンピュータ支援診断（CAD）システムを開発すること。
• VGG-16、MobileNet、InceptionV3、InceptionResNetV2といった複数の事前学習済み畳み込みニューラルネットワーク（CNN）アーキテクチャの多クラスDR分類における性能を評価すること。
• 限られた眼底画像データセット上で、データ拡張と事前学習モデルの微調整を用いて分類精度を向上させること。
• 微細なDR重症度レベルを検出するための、最も効果的な深層学習アーキテクチャを同定すること。
• MobileNetのような軽量モデルを用いた将来のモバイル診断ツールの早期DR検出への展開を可能にすること。

提案手法

• Kaggleの1,000枚の眼底画像データセット上で、トランスファーラーニングを用いて微調整された事前学習済み深層学習モデル（VGG-16、MobileNet、InceptionV3、InceptionResNetV2）を適用した。
• 過学習を軽減し、トレーニングデータの多様性を高めるために、画像拡張技術を適用し、データセットを2,000枚に拡張した。
• モデルの入力要件を満たすために、画像を350x350x3および224x224x3の解像度にリサイズし、重要な網膜特徴を保持した。
• 収束を改善し、トレーニング中の過学習を防ぐために、Adam最適化関数と早期停止法を用いた。
• 2段階の分類ヘッドを実装：1x1畳み込み層に続いて、ドロップアウト（0.5）を用いた2つの全結合ブロックを配置し、正則化を実施した。
• 低層部を凍結し、高層部を微調整することで、事前学習済み特徴を医療画像分野に適応させた。

Figure 1: Diabetic Retinopathy Stages

実験結果

リサーチクエスチョン

• RQ1 限られた眼底画像データセット上で、多クラス糖尿病網膜症分類に最も効果的な事前学習済み深層学習モデルはどれか？
• RQ2 データ拡張は、トランスファーラーニングモデルの一般化性能およびAUC性能にどのように影響するか？
• RQ3 モデルの深さやアーキテクチャ（例：Inception対VGG）は、医療画像分類タスクにおけるAUCと精度にどのような影響を及えるか？
• RQ4 MobileNetのような微調整済み軽量モデルは、InceptionResNetV2のような深層モデルと比較して、DR検出において競争力のある性能を達成できるか？
• RQ5 異なる画像解像度（224x224対350x350）は、モデル性能およびトレーニング効率にどのように影響するか？

主な発見

• InceptionResNetV2が最高のAUC（0.69）を達成し、VGG-16（0.53）、InceptionV3（0.63）、MobileNet（0.70）、および独自に構築したCNN（0.50）を上回った。
• MobileNetはAUC 0.70を達成し、2番目に高い性能を示した。これは、深さ方向分離畳み込みと効率的なアーキテクチャのおかげで、パrameter数が少ないにもかかわらず優れた性能を発揮したためである。
• InceptionV3は43エポックで早期停止を適用した結果、AUC 0.63を達成し、同モデルを用いた過去の研究と比較して性能が向上した。
• VGG-16は85エポックのトレーニングを経ても、AUC 0.53と低く、23層という浅い深さと、微細な特徴学習に必要な能力の不足が原因と考えられる。
• 独自に構築したCNNは、AUC 0.50にとどまり、深さが不足しており、トレーニングデータが限られているため、性能が低かった。
• 画像拡張と微調整により、モデルの一般化性能が顕著に向上し、拡張技術を用いて最終トレーニングデータセットが1,620枚に拡大された。