[논문 리뷰] Continual Learning for Peer-to-Peer Federated Learning: A Study on Automated Brain Metastasis Identification

Yixing Huang, Christoph Bert외 6명|arXiv (Cornell University)|2022. 04. 26.

Domain Adaptation and Few-Shot Learning인용 수 9

한 줄 요약

이 연구는 뇌전이성 종양(BM) 분할을 위한 지속적 학습을 위해 시냅스 지능(SI)을 사용하는 피어 투 피어 분산 학습 프레임워크를 제안한다. 이는 원시 데이터를 공유하지 않고 다중 센터 간 협업을 가능하게 한다. SI를 사용해 센터 간 순차적으로 딥메딕 모델을 훈련시어 치명적인 잊음 현상을 방지함으로써, 일곱 개 센터 시나리오에서 민감도 0.914를 달성하였으며, 혼합 데이터에 대한 집중 훈련 성능과 동일한 수준에 도달하였다. 이와 동시에 통신 횟수는 단 6회로 최소화되었다.

ABSTRACT

Due to data privacy constraints, data sharing among multiple centers is restricted. Continual learning, as one approach to peer-to-peer federated learning, can promote multicenter collaboration on deep learning algorithm development by sharing intermediate models instead of training data. This work aims to investigate the feasibility of continual learning for multicenter collaboration on an exemplary application of brain metastasis identification using DeepMedic. 920 T1 MRI contrast enhanced volumes are split to simulate multicenter collaboration scenarios. A continual learning algorithm, synaptic intelligence (SI), is applied to preserve important model weights for training one center after another. In a bilateral collaboration scenario, continual learning with SI achieves a sensitivity of 0.917, and naive continual learning without SI achieves a sensitivity of 0.906, while two models trained on internal data solely without continual learning achieve sensitivity of 0.853 and 0.831 only. In a seven-center multilateral collaboration scenario, the models trained on internal datasets (100 volumes each center) without continual learning obtain a mean sensitivity value of 0.699. With single-visit continual learning (i.e., the shared model visits each center only once during training), the sensitivity is improved to 0.788 and 0.849 without SI and with SI, respectively. With iterative continual learning (i.e., the shared model revisits each center multiple times during training), the sensitivity is further improved to 0.914, which is identical to the sensitivity using mixed data for training. Our experiments demonstrate that continual learning can improve brain metastasis identification performance for centers with limited data. This study demonstrates the feasibility of applying continual learning for peer-to-peer federated learning in multicenter collaboration.

연구 동기 및 목표

• 의료 딥러닝에서 데이터 프라이버시 제약으로 인한 다중 센터 협업을 해결하기 위해.
• 뇌전이성 종양 분할을 위한 피어 투 피어 분산 학습에서 지속적 학습의 가능성을 평가하기 위해.
• 모델 정확도 유지 측면에서 단순 지속적 학습과 SI 정규화 지속적 학습 간 성능을 비교하기 위해.
• 저통신, 탈중앙화 훈련이 다중 센터 환경에서 집중 훈련 성능에 맞먹을 수 있는지 보여주기 위해.
• 실제 임상 환경에서 반복적 지속적 학습(ICL)이 모델 민감도 및 위양성 비율에 미치는 영향을 평가하기 위해.

제안 방법

• 3D 뇌전이성 종양 분할을 위해 T1 강화 MRI 영상에 대해 딥메딕 U-Net 아키텍처를 사용한다.
• 단일 센터에서 확보한 920개 MRI 영상은 실제 협업을 모의하기 위해 100개 영상씩 분할된 시뮬레이션 다중 센터 데이터셋으로 나뉜다.
• 순차적 센터 간 훈련에서 중요한 가중치를 유지하기 위해 시냅스 지능(SI)을 정규화 기법으로 적용한다.
• 피어 투 피어 분산 학습은 단일 방문 지속적 학습(SVCL) 및 반복적 지속적 학습(ICL) 전략을 통해 구현되며, 모델이 각 센터를 다수 회 반복 방문한다.
• 모델 성능 평가에는 민감도, 위양성 비율(AFPR), 딱시 스코어를 사용하며, 통합된 데이터에 대한 집중 훈련 결과와 비교한다.
• 모든 센터는 뇌두부 제거, 강도 정규화, 해상도 통일화를 포함한 동일한 전처리 파이프라인을 사용하여 도메인 이동을 최소화한다.

실험 결과

연구 질문

• RQ1 피어 투 피어 분산 학습을 통한 지속적 학습이 원시 데이터 공유 없이도 집중 훈련 성능과 유사한 성능을 달성할 수 있는가?
• RQ2 시냅스 지능(SI)은 순차적 다중 센터 훈련에서 모델 유지력 및 성능 향상에 어떻게 기여하는가?
• RQ3 반복적 지속적 학습(ICL)과 단일 방문 지속적 학습(SVCL) 간 민감도 및 위양성 비율에 미치는 영향은 어떠한가?
• RQ4 저통신, 탈중앙화 훈련이 다중 센터 뇌전이성 종양 분할에서 단순 이관 학습을 능가할 수 있는가?
• RQ5 센터 간 데이터 이질성 하에서 모델 성능는 어떻게 변하는가? 그리고 SI는 도메인 이동 효과를 완화할 수 있는가?

주요 결과

• 이중 협업 상황에서 SI 기반 지속적 학습은 민감도 0.917을 달성하였으며, 단순 지속적 학습(0.906)과 개별 센터 훈련(0.853 및 0.831)을 모두 초월하였다.
• 일곱 센터 다자 협업 상황에서 ICL와 SI를 결합한 결과 민감도 0.914를 기록하였으며, 혼합 데이터에 대한 집중 훈련 성능과 동일한 결과를 보였다.
• SI 없이도 ICL는 민감도를 0.914로 향상시켰고, SI 적용 시에도 동일한 0.914를 달성하여 SI가 다양한 훈련 환경에서 일관된 성능 향상을 제공함을 확인하였다.
• 위양성 비율(AFPR)은 모든 ICL 기반 방법에서 0.7 이하로 유지되었으며, [60]에서 보고된 최신 기술 수준의 0.5에 가까워졌다.
• ICL와 SI를 조합한 방법은 단지 센터 간 6회의 통신만으로도 집중 훈련 성능(민감도 0.914)과 동일한 민감도를 달성하여 낮은 통신 비용을 입증하였다.
• 제한된 데이터로 개별적으로 훈련된 모델(평균 민감도 0.699)에 비해 본 방법은 뚜렷한 성능 향상을 보였으며, 협업 학습의 유용성을 입증하였다.