[論文レビュー] Transfer learning approach to Classify the X-ray image that corresponds to corona disease Using ResNet50 pretrained by ChexNet

Mahyar Bolhassani|arXiv (Cornell University)|May 18, 2021

COVID-19 diagnosis using AI参考文献 8被引用数 4

ひとこと要約

本研究では、ImageNetおよびCheXNetで事前学習されたResNet50およびDenseNet121を用いた転移学習アプローチを提案し、不均衡なデータセットにおけるコロナウイルス病（COVID-19）の胸部レントゲン画像分類を実施する。ファーカス損失とデータ拡張を活用することで、追加のCOVID-19サンプルを追加した後、84.6%のテスト精度を達成した。CheXNetで微調整されたDenseNet121が、他のアーキテクチャを上回る性能を発揮した。

ABSTRACT

Coronavirus adversely has affected people worldwide. There are common symptoms between the Covid19 virus disease and other respiratory diseases like pneumonia or Influenza. Therefore, diagnosing it fast is crucial not only to save patients but also to prevent it from spreading. One of the most reliant methods of diagnosis is through X-ray images of a lung. With the help of deep learning approaches, we can teach the deep model to learn the condition of an affected lung. Therefore, it can classify the new sample as if it is a Covid19 infected patient or not. In this project, we train a deep model based on ResNet50 pretrained by ImageNet dataset and CheXNet dataset. Based on the imbalanced CoronaHack Chest X-Ray dataset introducing by Kaggle we applied both binary and multi-class classification. Also, we compare the results when using Focal loss and Cross entropy loss.

研究の動機と目的

• 高度に不均衡なデータセットにおける深層学習を用いた胸部レントゲン画像からのCOVID-19分類の課題に対処すること。
• ImageNetおよびCheXNetで事前学習されたモデルを用いた転移学習の有効性を、医療画像分類において評価すること。
• クラス不均衡下でのモデル性能に与える影響を比較するため、交差エントロピー損失とファーカス損失という異なる損失関数の効果を評価すること。
• データ合成と外部データの追加による限られたCOVID-19レントゲン画像の拡張を通じて、モデルの汎化性能を向上させること。

提案手法

• CoronaHack胸部レントゲンデータセットに対して、ImageNetおよびCheXNetで事前学習されたResNet50およびDenseNet121のアーキテクチャを微調整し、転移学習を実施した。
• 訓練サンプルの多様性を高めるために、ランダムな水平・垂直反転およびランダム回転などのデータ拡張技術を適用した。
• クラス不均衡の悪影響、特にレアクラスであるCOVID-19に対して、ファーカス損失を用いた。
• オーバーフィッティングを防ぐために、学習率スケジューリングにコサインスケジュールを用いたAdam最適化手法と早期停止を用いてモデルを訓練した。
• 条件付きGANを用いて、合成されたCOVID-19レントゲン画像を生成したが、GPU制限とハイパーパramータの感受性により制限があった。
• 外部のCOVID-19レントゲン画像を別のKaggleチャレンジから追加することで、少数クラスの表現を強化した。

実験結果

リサーチクエスチョン

• RQ1 ImageNetで事前学習されたモデルやランダム初期化モデルと比較して、CheXNetで事前学習されたモデルを用いた転移学習は、不均衡な胸部レントゲン画像データセットにおける分類性能を向上させるか？
• RQ2 ファーカス損失は、交差エントロピー損失と比較して、COVID-19のような少数クラスの分類精度をどのように向上させるか？
• RQ3 データ拡張および合成データ生成は、限られた実世界の医療画像データにおいて、モデルの汎化性能をどの程度向上させるか？
• RQ4 公開データセットからの外部のCOVID-19レントゲン画像を、既存の不均衡なデータセットに追加することで、モデル性能を顕著に向上させられるか？

主な発見

• CheXNetで事前学習されたDenseNet121は、追加のCOVID-19サンプルを追加した後、84.6%の最高テスト精度を達成した。
• ファーカス損失は、標準的な交差エントロピー損失と比較して、特に少数クラスのCOVID-19に対して、検証およびテスト精度を向上させた。
• CheXNetで事前学習されたDenseNet121を用いたモデルは、データ拡張後、81.83%の検証精度および84.6%のテスト精度を達成し、優れた汎化性能を示した。
• データ拡張とファーカス損失を適用しても、転移学習を行わないベースラインのResNet50モデルは、テスト精度が71.11%にとどまり、事前学習の重要性を示した。
• 外部のCOVID-19レントゲン画像の追加により、モデル性能が顕著に向上し、テスト精度が75.56%から84.6%に上昇した。
• 努力の結果、GANを用いたデータ生成は、トレーニングの不安定さとハードウェア制限のため、現実的なCOVID-19画像を生成できなかった。