[論文レビュー] Hybrid Inception Architecture with Residual Connection: Fine-tuned Inception-ResNet Deep Learning Model for Lung Inflammation Diagnosis from Chest Radiographs

Mehdi Neshat, Muktar Beshir Ahmed+3 more|arXiv (Cornell University)|Oct 4, 2023

COVID-19 diagnosis using AIMedicine被引用数 3

ひとこと要約

本稿では、胸部レントゲン画像からの自動肺炎症診断を目的として、微調整されたInception-ResNet-V2モデルを提案する。Inceptionモジュールと残差接続を組み合わせることで、特徴抽出能と計算効率を向上させる。Mendleyデータセットにおいて98.4%の分類精度を達成し、7つの最先端CNNと比較して最大16.1%の優位性を示した。

ABSTRACT

Diagnosing lung inflammation, particularly pneumonia, is of paramount importance for effectively treating and managing the disease. Pneumonia is a common respiratory infection caused by bacteria, viruses, or fungi and can indiscriminately affect people of all ages. As highlighted by the World Health Organization (WHO), this prevalent disease tragically accounts for a substantial 15% of global mortality in children under five years of age. This article presents a comparative study of the Inception-ResNet deep learning model's performance in diagnosing pneumonia from chest radiographs. The study leverages Mendeleys chest X-ray images dataset, which contains 5856 2D images, including both Viral and Bacterial Pneumonia X-ray images. The Inception-ResNet model is compared with seven other state-of-the-art convolutional neural networks (CNNs), and the experimental results demonstrate the Inception-ResNet model's superiority in extracting essential features and saving computation runtime. Furthermore, we examine the impact of transfer learning with fine-tuning in improving the performance of deep convolutional models. This study provides valuable insights into using deep learning models for pneumonia diagnosis and highlights the potential of the Inception-ResNet model in this field. In classification accuracy, Inception-ResNet-V2 showed superior performance compared to other models, including ResNet152V2, MobileNet-V3 (Large and Small), EfficientNetV2 (Large and Small), InceptionV3, and NASNet-Mobile, with substantial margins. It outperformed them by 2.6%, 6.5%, 7.1%, 13%, 16.1%, 3.9%, and 1.6%, respectively, demonstrating its significant advantage in accurate classification.

研究の動機と目的

• 深層学習を用いて、胸部レントゲン画像からの肺炎診断の精度と効率を向上させること。
• 他の最先端CNNと比較して、Inception-ResNet-V2アーキテクチャが肺炎症を検出する性能をどのように示すかを評価すること。
• 微調整を伴う転移学習が、モデルの一般化能および診断性能に与える影響を調査すること。
• ハイブリッドInceptionと残差接続が、低レベルから高レベルの表現にわたり多スケール特徴を捉えるのにどのように寄与するかを明らかにすること。
• 臨床現場における早期肺炎検出に適した、強固で計算効率の良い深層学習ソリューションを提供すること。

提案手法

• 本研究では、深層ネットワークの学習と勾配の流れの改善を可能にするために、Inceptionモジュールと残差接続を統合したInception-ResNet-V2アーキテクチャを採用する。
• ImageNetで事前学習された重みを用いた転移学習を実施し、その後、ウイルス性および細菌性肺炎を含む5,856枚の画像からなるMendley胸部レントゲンデータセットで微調整を行う。
• データオーグメンテーション技術を用いてエンドツーエンドで学習を実施し、一般化性能を向上させ、過学習を低減する。
• ハイブリッドInceptionアーキテクチャでは、各モジュールで複数の畳み込みフィルターサイズ（1x1、3x3、5x5）を組み合わせることで、多様な空間的特徴を捉える。
• 残差接続により、ネットワークが恒等写像を学習できるようになり、深層ネットワークにおける消失勾配問題を緩和する。
• 学習率スケジューリングと早期停止を用いたモデル最適化により、収束性を向上させ、過学習を防止する。

実験結果

リサーチクエスチョン

• RQ1 Inception-ResNet-V2モデルは、胸部レントゲン画像からの肺炎分類において、他の最先端CNNと比較してどのように性能を発揮するか？
• RQ2 微調整を伴う転移学習は、限られた医療画像データセットにおいて、深層学習モデルの診断精度をどの程度向上させるか？
• RQ3 ハイブリッドInceptionモジュールと残差接続の組み合わせが、肺炎症検出のための特徴表現能をどのように向上させるか？
• RQ4 MobileNet、EfficientNet、NASNetの変種と比較して、Inception-ResNet-V2モデルは優れた精度と計算効率を達成できるか？
• RQ5 Mendleyデータセットにおけるウイルス性肺炎と細菌性肺炎のサブタイプに対して、モデルの性能はどの程度頑健か？

主な発見

• Inception-ResNet-V2モデルは、Mendley胸部レントゲンデータセットにおいて98.4%の分類精度を達成し、ResNet152V2（95.8%）、MobileNet-V3（91.9%）、EfficientNetV2（85.4%）を大きく上回った。
• InceptionV3より16.1ポイント、NASNet-Mobileより3.9ポイントの優位性を示し、優れた特徴抽出能力を示した。
• 転移学習と微調整により、特に小規模で不均衡な医療画像データセットにおいて、性能の著しい向上が見られた。
• ハイブリッドInceptionアーキテクチャと残差接続の組み合わせにより、トレーニング時間の短縮と勾配の流れの改善が実現され、収束が早まった。
• ウイルス性および細菌性肺炎の両方の症例において、モデルは優れた一般化性能を示し、クラスのばらつきに対しても頑健であることがわかった。
• 比較対象の全モデルの中で、Inception-ResNet-V2モデルは最高のF1スコアとAUCを達成し、臨床的診断応用における信頼性を確認した。