[論文レビュー] Continual Learning for Domain Adaptation in Chest X-ray Classification

Matthias Lenga, Heinrich Schulz+1 more|arXiv (Cornell University)|Jan 16, 2020

COVID-19 diagnosis using AI参考文献 13被引用数 13

ひとこと要約

本稿は、胸部X線画像分類において、新しいドメインにモデルを適応させる際の深刻な忘却を軽減するため、継続的学習（CL）手法—共同学習（JT）、エラスティックウェイトコンソリデーション（EWC）、学習のための忘却なし（LWF）—を調査する。ChestX-ray14およびMIMIC-CXRデータセットを用いて、JTが最良のパフォーマンスを達成する一方、LWFは元のドメインデータにアクセスしないまま競争力のある結果を示す。

ABSTRACT

Over the last years, Deep Learning has been successfully applied to a broad range of medical applications. Especially in the context of chest X-ray classification, results have been reported which are on par, or even superior to experienced radiologists. Despite this success in controlled experimental environments, it has been noted that the ability of Deep Learning models to generalize to data from a new domain (with potentially different tasks) is often limited. In order to address this challenge, we investigate techniques from the field of Continual Learning (CL) including Joint Training (JT), Elastic Weight Consolidation (EWC) and Learning Without Forgetting (LWF). Using the ChestX-ray14 and the MIMIC-CXR datasets, we demonstrate empirically that these methods provide promising options to improve the performance of Deep Learning models on a target domain and to mitigate effectively catastrophic forgetting for the source domain. To this end, the best overall performance was obtained using JT, while for LWF competitive results could be achieved - even without accessing data from the source domain.

研究の動機と目的

• 新しい医療画像ドメインに適応する際、深層学習モデルにおける深刻な忘却の課題に対処すること。
• CL手法が、元のドメインデータを再学習せずに、ターゲットドメイン（例：MIMIC-CXR）への一般化を向上させられるかどうかを調査すること。
• 特にデータプライバシー制約下での医療画像分野における正則化に基づくCL手法（EWC、LWF）の実現可能性を評価すること。
• クロスドメイン胸部X線画像分類において、CL戦略と標準的な微調整のパフォーマンスを比較すること。
• CLが、以前に学習した元のタスクのパフォーマンスを保持したまま、効果的なドメイン適応を可能にすることを実証すること。

提案手法

• 微調整中に、元ドメイン（ChestX-ray14）とターゲットドメイン（MIMIC-CXR）の両方で同時に最適化することで、共同学習（JT）を適用する。
• フィッシャー情報に基づくパラメータの正則化を通じて、元ドメインの知識を保存するため、エラスティックウェイトコンソリデーション（EWC）を実装する。
• 適応段階で、元モデルのソフトラベルを用いた distillation を通じて知識を保存するため、学習のための忘却なし（LWF）を用いる。
• ResNet-50バックボーンをChestX-ray14で学習し、JTにおける元データの割合を変化させながら、MIMIC-CXRで微調整する。
• 14種類の胸部X線所見における平均AUCを用いてモデルパフォーマンスを評価し、複数回の実行における標準偏差を報告する。
• 最初のタスクをChestX-ray14、2番目のタスクをMIMIC-CXRとするタスク中心の定式化を用い、順次的ドメイン適応をシミュレートする。

実験結果

リサーチクエスチョン

• RQ1 新しいドメインに胸部X線分類器を適応させる際、継続的学習手法が深刻な忘却を効果的に軽減できるか？
• RQ2 共同学習（JT）は、正則化に基づく手法（EWC、LWF）と比較して、元ドメインでのパフォーマンスを保持しつつ、ターゲットドメインでのパフォーマンスを向上させられるか？
• RQ3 LWFは、元ドメインの学習データにアクセスしない状況でも、どれほど競争力のあるパフォーマンスを達成できるか？
• RQ4 JTにおける元ドメインデータの割合を変化させた場合、ドメイン間での一般化性能にどのような影響を与えるか？
• RQ5 継続的学習は、実世界の医療画像応用におけるドメインシフトに対して、モデルのロバスト性を向上させるか？

主な発見

• 100％の元データを含む共同学習（JT）は、MIMIC-CXRテストセットで平均AUC 0.8189を達成し、標準的な微調整を上回った。
• LWFは、元ドメインデータにアクセスしない状態で、MIMIC-CXRで平均AUC 0.8256を達成し、強力なゼロショットドメイン適応能力を示した。
• EWCは、MIMIC-CXRで平均AUC 0.8250を達成し、最小限の計算オーバーヘッドで競争力のあるパフォーマンスを示した。
• JTにおいて元データを20％に制限しても、MIMIC-CXRでのパフォーマンスは平均AUC 0.8160に達し、部分的な元データアクセスでも強力な結果が得られることを示した。
• 元のChestX-ray14モデルは、MIMIC-CXRで顕著に性能が低下した（平均AUC 0.7708）、これは適応なしではドメインシフトの深刻さが顕著に表れている。
• 元ドメイン（ChestX-ray14）では、すべてのCL手法が標準的な微調整と比較してパフォーマンスを保持またはわずかに向上させ、JTは平均AUC 0.8106を達成した。