[論文レビュー] COVID-DA: Deep Domain Adaptation from Typical Pneumonia to COVID-19
COVID-DAは、ドメイン共有の分類子とドメイン特異的分類子を分離し、特徴分布と結合分布を整合させることによって、典型的な肺炎からCOVID-19診断への知識移転を可能にするドメイン適応フレームワークを導入します。
The outbreak of novel coronavirus disease 2019 (COVID-19) has already infected millions of people and is still rapidly spreading all over the globe. Most COVID-19 patients suffer from lung infection, so one important diagnostic method is to screen chest radiography images, e.g., X-Ray or CT images. However, such examinations are time-consuming and labor-intensive, leading to limited diagnostic efficiency. To solve this issue, AI-based technologies, such as deep learning, have been used recently as effective computer-aided means to improve diagnostic efficiency. However, one practical and critical difficulty is the limited availability of annotated COVID-19 data, due to the prohibitive annotation costs and urgent work of doctors to fight against the pandemic. This makes the learning of deep diagnosis models very challenging. To address this, motivated by that typical pneumonia has similar characteristics with COVID-19 and many pneumonia datasets are publicly available, we propose to conduct domain knowledge adaptation from typical pneumonia to COVID-19. There are two main challenges: 1) the discrepancy of data distributions between domains; 2) the task difference between the diagnosis of typical pneumonia and COVID-19. To address them, we propose a new deep domain adaptation method for COVID-19 diagnosis, namely COVID-DA. Specifically, we alleviate the domain discrepancy via feature adversarial adaptation and handle the task difference issue via a novel classifier separation scheme. In this way, COVID-DA is able to diagnose COVID-19 effectively with only a small number of COVID-19 annotations. Extensive experiments verify the effectiveness of COVID-DA and its great potential for real-world applications.
研究の動機と目的
- COVID-19のアノテーションが不足している場合でも、胸部レントゲンからCOVID-19を診断する動機づけ。
- 肺炎とCOVID-19の間のドメイン分布の不整合とタスクの差を双方に対処する。
- ラベル付き肺炎データを活用して、限られたターゲットラベルでCOVID-19診断を改善する深層学習モデルを開発する。
提案手法
- ドメイン共有の特徴抽出器を用いてドメイン不変表現を学習する。
- 特徴分布と結合特徴-予測分布を整合させる2つのドメイン識別器を組み込む。
- ドメイン共有分類器と2つのドメイン特異分類器(ドメインごとに1つ)を組み合わせた分類器分離方式を導入する。
- ドメイン共有分類器とドメイン特異分類器の間で多様性を最大化し、ドメイン非公開の情報を捉える。
- ラベル不均衡に対処し識別を改善するためフォーカルロスで訓練する。
実験結果
リサーチクエスチョン
- RQ1ドメイン adversarial 学習は、ドメインシフトにもかかわらず肺炎とCOVID-19画像間で特徴を一致させられるか?
- RQ2共有とドメイン特異のコンポーネントに分類器を分離することは、ターゲットラベルが限られている場合のCOVID-19診断を改善するか?
- RQ3分類器間の多様性を明示的に最大化することが、クロスドメイン診断性能に与える影響は?
- RQ4COVID-DAは、ベースラインや他のドメイン適応手法と比較してCOVID-19診断でどの程度の性能を示すか?
- RQ5医用画像データセットで一般的なクラス不均衡に対して手法は頑健か?
主な発見
| 方法 | F1(%) | Recall(%) | Precision(%) | AUC | Sum(%) | Cost |
|---|---|---|---|---|---|---|
| Source-only | 65.04 | 66.67 | 63.49 | 0.899 | 82.03 | 20.3 |
| Target-only | 68.75 | 55.00 | 91.67 | 0.971 | 77.33 | 24.6 |
| Fine-tuning | 64.29 | 75.00 | 56.25 | 0.946 | 85.52 | 17.0 |
| DLAD | 67.18 | 73.33 | 61.97 | 0.961 | 85.14 | 17.1 |
| COVID-Net | 71.94 | 83.33 | 63.29 | 0.977 | 90.03 | 11.9 |
| MCD | 61.54 | 60.00 | 63.16 | 0.904 | 78.81 | 23.7 |
| DANN | 66.15 | 71.67 | 61.43 | 0.904 | 84.31 | 18.0 |
| DSN | 73.02 | 76.67 | 69.70 | 0.884 | 87.20 | 14.6 |
| DMAN | 75.63 | 75.00 | 76.27 | 0.915 | 86.71 | 14.9 |
| Semi-DMAN | 77.27 | 85.00 | 70.83 | 0.978 | 91.31 | 10.2 |
| SDT | 79.69 | 85.00 | 75.00 | 0.962 | 91.54 | 9.8 |
| COVID-DA | 92.98 | 88.33 | 98.15 | 0.985 | 94.11 | 6.4 |
- COVID-DAは評価された手法の中でCOVID-19診断のF1が92.98%、AUCが0.985で最高を達成。
- COVID-DAはSource-only、Target-only、Fine-tuning、標準的なDA手法(MCD、DANN、DSN、DMAN)、半教師ありDA手法(SDT、semi-DMAN)を上回る。
- アブレーション研究により、特徴 adversarial 適応、分類器 adversarial 適応、分類器の多様性、フォーカルロスのすべての構成要素が性能向上に寄与することを示す。
- 視覚的 Grad-CAM 分析は、ドメイン共有およびターゲット特化分類器が診断の補完的な領域に焦点を当てることを示唆。
- ドメイン共有分類器とドメイン特異分類器のアンサンブルは、臨床利用の堅牢性と解釈性を向上させる。
より良い研究を、今すぐ始めましょう
論文設計から論文執筆まで、研究時間を劇的に削減しましょう。
クレジットカード登録不要
このレビューはAIが作成し、人間の編集者が確認しました。