[論文レビュー] Conversion and Implementation of State-of-the-Art Deep Learning Algorithms for the Classification of Diabetic Retinopathy

M V Achuth Rao, Michelle Zhu+1 more|arXiv (Cornell University)|Oct 7, 2020

Retinal Imaging and Analysis参考文献 13被引用数 9

ひとこと要約

本研究では、限られた、不均衡な医療網膜画像を用いて、転移学習とデータ拡張を用いた、最新鋭の畳み込みニューラルネットワーク（CNN）の網膜症（DR）分類に関する評価を行った。2値分類ではResNet50にAdam最適化手法を適用した場合が最高の性能を示し（85.02%の正解率）、多クラス分類ではInceptionResNetV2にAdamを適用した場合が優れた性能を示し（85.02%の正解率、97%のマクロAUC）。

ABSTRACT

Diabetic retinopathy (DR) is a retinal microvascular condition that emerges in diabetic patients. DR will continue to be a leading cause of blindness worldwide, with a predicted 191.0 million globally diagnosed patients in 2030. Microaneurysms, hemorrhages, exudates, and cotton wool spots are common signs of DR. However, they can be small and hard for human eyes to detect. Early detection of DR is crucial for effective clinical treatment. Existing methods to classify images require much time for feature extraction and selection, and are limited in their performance. Convolutional Neural Networks (CNNs), as an emerging deep learning (DL) method, have proven their potential in image classification tasks. In this paper, comprehensive experimental studies of implementing state-of-the-art CNNs for the detection and classification of DR are conducted in order to determine the top performing classifiers for the task. Five CNN classifiers, namely Inception-V3, VGG19, VGG16, ResNet50, and InceptionResNetV2, are evaluated through experiments. They categorize medical images into five different classes based on DR severity. Data augmentation and transfer learning techniques are applied since annotated medical images are limited and imbalanced. Experimental results indicate that the ResNet50 classifier has top performance for binary classification and that the InceptionResNetV2 classifier has top performance for multi-class DR classification.

研究の動機と目的

• 網膜症（DR）分類のための限られた、不均衡な医療網膜画像データセットの課題に対処すること。
• 最新鋭のディーブラーニングモデル（Inception-V3、VGG16、VGG19、ResNet50、InceptionResNetV2）を用いたDR画像分類の評価を行うこと。
• 2値分類および多クラス分類におけるDR重症度分類の最適なモデルアーキテクチャと最適化手法の組み合わせを特定すること。
• 入力サイズとスキップ接続が、医療画像分類タスクにおけるモデル性能に与える影響を調査すること。
• 特にリソースが限られた地域においても利用可能な、実装可能でコスト効率の良いディープラーニング診断ツールの提案すること。

提案手法

• CNNモデルの初期化にImageNetで事前学習された重みを用いた転移学習を実施し、訓練時間を短縮するとともに、小規模なデータセットでも性能を向上させた。
• 回転、スケーリング、ノイズ注入などのデータ拡張技術を適用し、訓練データの多様性を高めるとともに、クラスの不均衡を緩和した。
• 224×224ピクセルと299×299ピクセルの2種類の入力サイズを用い、解像度の違いがモデル性能に与える影響を評価した。
• Adamと確率的勾配降下法（SGD）の2種類の最適化手法を用いてモデルを訓練し、収束性と正解率への影響を比較した。
• DR進行度の5段階（0〜4）に基づく多クラス分類を実施し、カテゴリカル交差エントロピー損失関数を用いた。
• 決定木に類似したアプローチを用いた段階的2値分類システムを提案した。個々の2値モデルのシグモイド出力をアーグマックスにより統合し、最終的な5クラス予測を実現した。

実験結果

リサーチクエスチョン

• RQ1 どの最新鋭のCNNアーキテクチャが、2値分類および多クラス分類の両設定において網膜症分類で最高の分類正解率を達成するか？
• RQ2 異なる最適化手法（Adam対SGD）は、限られた医療画像データに対してモデルの収束性と性能にどのように影響を与えるか？
• RQ3 モデルのデフォルト入力サイズを使用することで、カスタムサイズの入力よりも性能が向上するか？
• RQ4 残差ネットワーク（例：ResNet50）におけるスキップ接続は、勾配消失問題をどれほど軽減し、学習を効果的に促進するか？
• RQ5 段階的2値分類システムは、直接的な多クラス学習と比較して、5クラスのDR重症度予測の正解率を向上させることができるか？

主な発見

• 2値分類において、Adam最適化手法を用いたResNet50が85.02%の最高テスト正解率を達成し、他のモデルを上回った。
• 多クラス分類においては、Adam最適化手法を用いたInceptionResNetV2が最良の性能を示し、85.02%のテスト正解率と0.97のマクロ平均AUCを達成した。
• Adamで訓練されたモデルは、特に多クラスタスクにおいてSGDで訓練されたモデルと比較して顕著に優れた性能を示した。
• モデル固有のデフォルト入力サイズ（224×224または299×299）を使用した場合、リサイズされた入力よりも高い性能が得られた。これは、事前学習済み特徴マップが保持されたためと推定される。
• ResNet50およびInceptionResNetV2におけるスキップ接続は、勾配消失問題を軽減し、深層アーキテクチャにおける安定的かつ効果的な学習を可能にした。
• 混同行列とROC曲線は、特に多クラス設定におけるInceptionResNetV2の高精度な特異性と感度を確認した。