[논문 리뷰] Continual Learning for Domain Adaptation in Chest X-ray Classification

Matthias Lenga, Heinrich Schulz외 1명|arXiv (Cornell University)|2020. 01. 16.

COVID-19 diagnosis using AI참고 문헌 13인용 수 13

한 줄 요약

이 논문은 흉부 X-ray 분류에서 새로운 도메인으로 모델을 적응할 때 치명적인 잊음 현상을 완화하기 위해 연속 학습(Continual Learning, CL) 기법—통합 학습(Joint Training, JT), 탄성 가중치 통합(Elastic Weight Consolidation, EWC), 그리고 기억을 잃지 않는 학습(Learning Without Forgetting, LWF)—을 조사한다. ChestX-ray14 및 MIMIC-CXR 데이터셋을 사용하여 JT가 가장 뛰어난 성능을 보이며, LWF는 원천 도메인 데이터에 접근하지 않더라도 경쟁 가능한 결과를 제공함을 보여준다.

ABSTRACT

Over the last years, Deep Learning has been successfully applied to a broad range of medical applications. Especially in the context of chest X-ray classification, results have been reported which are on par, or even superior to experienced radiologists. Despite this success in controlled experimental environments, it has been noted that the ability of Deep Learning models to generalize to data from a new domain (with potentially different tasks) is often limited. In order to address this challenge, we investigate techniques from the field of Continual Learning (CL) including Joint Training (JT), Elastic Weight Consolidation (EWC) and Learning Without Forgetting (LWF). Using the ChestX-ray14 and the MIMIC-CXR datasets, we demonstrate empirically that these methods provide promising options to improve the performance of Deep Learning models on a target domain and to mitigate effectively catastrophic forgetting for the source domain. To this end, the best overall performance was obtained using JT, while for LWF competitive results could be achieved - even without accessing data from the source domain.

연구 동기 및 목표

• 새로운 의료 영상 도메인으로 모델을 적응시킬 때 딥 러닝 모델에서 발생하는 치명적인 잊음 현상의 과제를 해결하기 위해.
• 원천 데이터 재학습 없이도 목표 도메인(예: MIMIC-CXR)으로의 일반화를 향상시킬 수 있는 CL 기법이 가능한지 조사하기 위해.
• 특히 데이터 프라이버시 제약 조건 하에서 정규화 기반 CL 방법(EWC, LWF)의 의료 영상 적용 가능성 평가하기 위해.
• 표준 미세조정 대비 CL 전략의 성능을 교차 도메인 흉부 X-ray 분류에서 비교하기 위해.
• CL가 이전에 학습된 원천 작업 성능을 유지하면서 효과적인 도메인 적응을 가능하게 함을 보여주기 위해.

제안 방법

• 미세조정 중 원천 도메인(ChestX-ray14)과 목표 도메인(MIMIC-CXR)에서 동시에 최적화하는 방식으로 통합 학습(JT)을 적용한다.
• 원천 도메인의 지식을 유지하기 위해 피셔 정보 기반으로 모델 파라미터를 정규화하는 탄성 가중치 통합(EWC)을 구현한다.
• 목표 도메인으로의 적응 과정에서 원천 모델의 소프트 레이블을 통해 지식을 유지하기 위해 기억을 잃지 않는 학습(LWF)을 사용한다.
• ResNet-50 백본을 ChestX-ray14에서 학습하고, JT에서 원천 데이터 비율을 다양하게 하여 MIMIC-CXR에서 미세조정한다.
• 14개의 흉부 X-ray 이상 징후에 대한 평균 AUC를 사용하여 모델 성능을 평가하며, 다수의 실행에서 표준편차를 보고한다.
• 첫 번째 작업은 ChestX-ray14이고 두 번째 작업은 MIMIC-CXR인 작업 중심 형식을 사용하여 순차적 도메인 적응을 시뮬레이션한다.

실험 결과

연구 질문

• RQ1 새로운 도메인으로 흉부 X-ray 분류기 적응 시 연속 학습 기법이 치명적인 잊음 현상을 효과적으로 줄일 수 있는가?
• RQ2 원천 도메인 성능 유지와 목표 도메인 성능 향상 측면에서 통합 학습(JT)이 정규화 기반 방법(EWC, LWF)보다 어떻게 비교되는가?
• RQ3 LWF가 원천 도메인 학습 데이터에 접근하지 않더라도 얼마나 높은 성능을 달성할 수 있는가?
• RQ4 JT에서 원천 도메인 데이터 비율을 변화시켰을 때 도메인 간 일반화 성능에 어떤 영향을 미치는가?
• RQ5 연속 학습이 실생활 의료 영상 응용에서 도메인 이동에 대한 모델의 강건성 향상에 기여하는가?

주요 결과

• 100%의 원천 데이터 포함 비율로 통합 학습(JT)을 수행한 결과, MIMIC-CXR 테스트 세트에서 평균 AUC 0.8189를 기록하여 표준 미세조정을 능가했다.
• 원천 도메인 데이터에 접근하지 않아도 LWF는 MIMIC-CXR에서 평균 AUC 0.8256을 달성하여 강력한 제로샷 도메인 적응 능력을 보였다.
• EWC는 MIMIC-CXR에서 평균 AUC 0.8250을 기록하여 최소한의 계산 오버헤드로도 경쟁 가능한 성능을 보였다.
• JT에서 원천 데이터 비율을 20%로 줄여도 MIMIC-CXR에서 평균 AUC 0.8160에 도달하여, 부분적인 원천 데이터 접근만으로도 뛰어난 성능을 얻을 수 있음을 시사했다.
• 원천 모델인 ChestX-ray14는 MIMIC-CXR에서 성능이 크게 떨어졌으며(평균 AUC 0.7708), 이는 적응 없이 도메인 이동이 심각한 영향을 미칠 수 있음을 보여준다.
• 원천 도메인(ChestX-ray14)에서 모든 CL 방법은 표준 미세조정 대비 성능을 유지하거나 略도 향상시켰으며, JT는 평균 AUC 0.8106을 기록했다.