[논문 리뷰] Federated Learning Enables Big Data for Rare Cancer Boundary Detection

Sarthak Pati, Ujjwal Baid외 277명|arXiv (Cornell University)|2022. 04. 22.

Glioma Diagnosis and Treatment인용 수 11

한 줄 요약

이 논문은 71개의 글로벌 기관에서 원시 데이터를 공유하지 않고도 뇌신생물종양의 종양 경계를 자동으로 탐지하기 위한 딥러닝 모델을 훈련하기 위한 연합학습(FL) 프레임워크를 제안한다. 문헌에서 가장 큰 규모인 6,314명의 환자로부터의 25,256개의 MRI 스캔을 사용하여, 수술로 치료 가능한 종양 영역을 탐지하는 데 33% 향상되고 전체 종양 범위를 탐지하는 데 23% 향상된 성능를 달성하여, 희귀질환 연구에 있어 FL의 확장성과 효과성을 입증한다.

ABSTRACT

Although machine learning (ML) has shown promise in numerous domains, there are concerns about generalizability to out-of-sample data. This is currently addressed by centrally sharing ample, and importantly diverse, data from multiple sites. However, such centralization is challenging to scale (or even not feasible) due to various limitations. Federated ML (FL) provides an alternative to train accurate and generalizable ML models, by only sharing numerical model updates. Here we present findings from the largest FL study to-date, involving data from 71 healthcare institutions across 6 continents, to generate an automatic tumor boundary detector for the rare disease of glioblastoma, utilizing the largest dataset of such patients ever used in the literature (25,256 MRI scans from 6,314 patients). We demonstrate a 33% improvement over a publicly trained model to delineate the surgically targetable tumor, and 23% improvement over the tumor's entire extent. We anticipate our study to: 1) enable more studies in healthcare informed by large and diverse data, ensuring meaningful results for rare diseases and underrepresented populations, 2) facilitate further quantitative analyses for glioblastoma via performance optimization of our consensus model for eventual public release, and 3) demonstrate the effectiveness of FL at such scale and task complexity as a paradigm shift for multi-site collaborations, alleviating the need for data sharing.

연구 동기 및 목표

• 희귀 암인 뇌신생물종양에 대한 기계학습 모델의 데이터 다양성과 일반화 능력 부족 문제를 해결한다.
• 다중 기관 협업에서 개인정보, 규제 및 물류적 제약으로 인해 중앙집중식 데이터 공유가 어려운 문제를 극복한다.
• 글로벌 분산 데이터셋에서 고성능 종양 분할 모델을 훈련하기 위해 연합학습을 활용한 확장 가능하고 개인정보 보호 중심의 기계학습 프레임워크를 개발한다.
• 희귀질환 적용 분야에서 다양한 인구 집단과 영상 프로토콜에 걸쳐 강력하고 일반화 가능한 모델 성능을 보장한다.
• 신경종양학 분야에서 복잡한 의료 영상 분할 과제에 대해 대규모로 연합학습의 실현 가능성과 우수성을 입증한다.

제안 방법

• 71개 기관의 분산된 MRI 데이터에서 로컬 모델을 독립적으로 훈련시키는 연합학습 프레임워크를 활용하여 원시 영상을 공유하지 않는다.
• 참여 기관들로부터 온 모델 업데이트(기울기 또는 가중치)를 안전하고 개인정보 보호 중심의 방식으로 중앙 서버에서 집계한다.
• 로컬 모델을 글로벌 모델로 통합하기 위해 공감 학습 전략을 적용하여 일반화 능력과 강건성을 향상시킨다.
• 3D U-Net 기반의 합성곱 신경망(CNN) 아키텍처를 사용하여 뇌신생물종양 종양 경계의 3D MRI 분할을 수행한다.
• 기관 간 영상 프로토콜의 다양성을 처리하기 위해 데이터 증강 및 정규화 기법을 구현한다.
• 모델 평균화와 학습률 스케줄링을 통한 반복적인 FL 라운드를 수행하여 수렴성과 성능을 최적화한다.

실험 결과

연구 질문

• RQ1 원시 의료 영상을 중앙집중화하지 않고도 대규모이자 다양한 지리적 분포를 가진 데이터셋에서 연합학습이 뇌신생물종양 종양 분할을 위한 딥러닝 모델을 효과적으로 훈련시킬 수 있는가?
• RQ2 연합 모델은 공개된 기준 모델에 비해 수술로 치료 가능한 종양 영역과 전체 종양 범위의 분할에서 어느 정도 뛰어난 성능를 보이는가?
• RQ3 연합 환경에서 다양한 영상 프로토콜, 스캐너 유형 및 환자 집단 간에 모델 성능는 어떻게 변화하는가?
• RQ4 희귀질환 적용 분야에서 연합학습을 사용할 때 데이터 다양성과 규모가 모델 일반화에 어떤 영향을 미치는가?
• RQ5 다중 기관 의료 AI 연구에 있어 연합학습은 중앙집중식 데이터 공유의 확장 가능하고 개인정보 보호 중심의 대안이 될 수 있는가?

주요 결과

• 연합학습 모델은 공개된 기준 모델 대비 수술로 치료 가능한 종양 영역 탐지에서 DICE 스코어에 대해 33% 상대적 향상을 달성했다.
• 전체 종양 범위 분할에 있어서도 모델은 DICE 스코어에 대해 23% 상대적 향상을 보였으며, 종합적인 종양 경계 설정 정확도 향상을 시사한다.
• 본 연구는 6개 대륙에 걸친 71개 기관에서 6,314명의 환자로부터의 25,256개의 MRI 스캔을 포함한 뇌신생물종양 분할 분야에서 가장 큰 알려진 데이터셋을 활용했다.
• 연합학습을 통해 훈련된 공감 모델은 다양한 영상 프로토콜과 환자 집단에서 강력한 일반화 능력을 보였으며, FL 접근법의 강건성을 확인했다.
• 성능 향상은 여러 검증 코hort에서 일관되게 관찰되어 모델의 신뢰성과 이식 가능성(전이 가능성)을 입증했다.
• 결과적으로, 연합학습은 희귀질환 분야의 대규모 다기관 의료 AI 연구에 실현 가능하고 확장 가능하며 개인정보 보호 중심의 패러다임임을 검증한다.