[논문 리뷰] Asynchronous Decentralized Federated Lifelong Learning for Landmark Localization in Medical Imaging

Guangyao Zheng, Michael Jacobs외 2명|arXiv (Cornell University)|2023. 03. 12.

Brain Tumor Detection and ClassificationNeuroscience인용 수 3

한 줄 요약

이 논문은 중앙 서버와 동기 학습 없이 개인정보 보호 및 확장성을 고려한 의료 영상에서의 지점 정위치를 위한 비동기 분산형 연속 학습(ADFLL) 프레임워크를 제안한다. BraTS 데이터셋에서 평균 거리 오차는 7.81을 기록하였으며, 기존의 연속 학습 방법(15.17)과 중심 집계 기반 방법(11.78)보다 뛰어나며, 네트워크 장애나 에이전트 장애에 대해서도 뛰어난 내성성을 보였다.

ABSTRACT

Federated learning is a recent development in the machine learning area that allows a system of devices to train on one or more tasks without sharing their data to a single location or device. However, this framework still requires a centralized global model to consolidate individual models into one, and the devices train synchronously, which both can be potential bottlenecks for using federated learning. In this paper, we propose a novel method of asynchronous decentralized federated lifelong learning (ADFLL) method that inherits the merits of federated learning and can train on multiple tasks simultaneously without the need for a central node or synchronous training. Thus, overcoming the potential drawbacks of conventional federated learning. We demonstrate excellent performance on the brain tumor segmentation (BRATS) dataset for localizing the left ventricle on multiple image sequences and image orientation. Our framework allows agents to achieve the best performance with a mean distance error of 7.81, better than the conventional all-knowing agent's mean distance error of 11.78, and significantly (p=0.01) better than a conventional lifelong learning agent with a distance error of 15.17 after eight rounds of training. In addition, all ADFLL agents have comparable or better performance than a conventional LL agent. In conclusion, we developed an ADFLL framework with excellent performance and speed-up compared to conventional RL agents.

연구 동기 및 목표

• 데이터 공유 없이도 분산된 모델 학습을 가능하게 하여 의료 영상에서의 개인정보 및 계산 자원 제약을 해결한다.
• 중앙 집중형 집계 및 동기 학습으로 인한 병목 현상을 해결한다.
• 새로운 영상 시퀀스나 환경에 적응할 때 치명적인 기억 상실을 방지하기 위해 의료 영상에서의 연속 학습을 가능하게 한다.
• 에이전트 장애나 이질적인 계산 능력에도 불구하고 성능을 유지할 수 있는 확장성 있고, 내성적이며 유연한 시스템을 개발한다.
• 실세계 의료 영상 작업에서 중심 집중형 및 기존 연속 학습 기반 방법과 비교해 뛰어난 성능과 속도 향상을 입증한다.

제안 방법

• 중앙 서버가 필요 없거나 동기 학습이 이루어지지 않는 비동기 분산형 연속 학습(ADFLL) 프레임워크를 제안한다.
• 에이전트들이 허브나 피어 투 피어 연결을 통해 모델 업데이트를 교환하는 분산 커뮤니케이션 방식을 사용하여 다양한 시스템 아키텍처를 지원한다.
• 지식을 임시 저장하고 재사용하는 경험 재생 버퍼(ERB)를 활용한 연속 학습 메커니즘을 구현하여 다양한 작업 간 지식 유지를 도모하고 치명적인 기억 상실을 방지한다.
• 에이전트들이 독립적으로 비동기적으로 학습할 수 있도록 하며, 모델 업데이트를 일관성과 수렴성을 유지하는 방식으로 공유하고 융합한다.
• 지점 정위치에 대해 딥 강화 학습을 활용하며, 에이전트들이 다중 영상 시퀀스에서 지점 위치를 예측하는 정책을 학습한다.
• 경로 장애에 대비해 ERB에 지식가 지속성을 확보하고, 새로운 에이전트가 참여할 경우 빠른 수렴을 보장함으로써 네트워크 장애에 강건한 시스템을 설계한다.

Figure 1. Illustration of the 8 task-environment pairs. The red boxes indicate the true landmark location of the top left ventricle. The yellow box is a predicted location from ADFLL agents during their training progressions

실험 결과

연구 질문

• RQ1 중앙 서버 없이도 비동기 분산형 연립 학습 시스템이 의료 영상에서의 연속 학습을 효과적으로 수행할 수 있는가?
• RQ2 ADFLL는 중심 집계 기반 및 기존 연속 학습 기반 에이전트와 비교해 정위치 정확도 및 학습 속도 측면에서 어떻게 성능을 내는가?
• RQ3 실세계 의료 영상 구현 환경에서 ADFLL 프레임워크는 에이전트 장애나 네트워크 장애에 얼마나 강건한가?
• RQ4 ADFLL는 치명적인 기억 상실 없이 다양한 영상 시퀀스와 방향성에 대해 높은 성능을 유지할 수 있는가?
• RQ5 에이전트 수가 증가함에 따라 ADFLL 프레임워크의 확장성은 어느 정도인가?

주요 결과

• ADFLL는 BraTS 데이터셋에서 3라운드 학습 후 평균 거리 오차 7.81을 기록하였으며, 기존 연속 학습 기반 에이전트(15.17, p=0.01)보다 유의미하게 뛰어나다.
• 모든 데이터에 초기부터 접근 가능한 '모든 것을 아는' 중심 집계 기반 에이전트(평균 거리 오차 11.78)보다도 ADFLL가 성능이 뛰어나다.
• 확장성 테스트에서 24개의 에이전트에서도 낮은 오차를 유지하였으며, 네 번째 라운드 후 평균 유클리드 거리 오차는 16.89로 감소하였다.
• 내성성 테스트에서 75%의 에이전트 장애 상황에서도 성능을 유지하였으며, 다섯 번째 라운드 후 평균 오차는 8.55를 기록하여 지식 지속성을 입증하였다.
• 새로운 에이전트는 한 번의 학습 라운드 내에 기존 에이전트 수준에 도달할 수 있었으며, 이는 강력한 적응성과 수렴 속도를 보여준다.
• 기존 연속 학습 및 중심 집계 기반 기준선 대비 뛰어난 속도 향상과 성능을 보였다.

Figure 2. Illustration of the 4-agent decentralized federated lifelong learning framework of our experiment.