[논문 리뷰] Multi-modal AsynDGAN: Learn From Distributed Medical Image Data without Sharing Private Information

Qi Chang, Zhennan Yan외 6명|arXiv (Cornell University)|2020. 12. 15.

AI in cancer detection참고 문헌 48인용 수 8

한 줄 요약

이 논문은 원시 환자 데이터를 공유하지 않고도 의료 기관 간에 협업 학습이 가능한 프라이버시 보장형 분산 GAN 프레임워크인 Multi-modal AsynDGAN을 제안한다. 중심화된 생성기와 분산된 판별기들을 통해 다중 기관의 공동 데이터 분포를 학습하고, 고해상도의 합성 의료 영상을 생성하며, 뇌 종양 세분화와 같은 후행 작업에서 실제 데이터 학습과 유사한 성능을 달성한다. 이는 학습 시점에서 모odal이 누락된 경우에도 성립한다.

ABSTRACT

As deep learning technologies advance, increasingly more data is necessary to generate general and robust models for various tasks. In the medical domain, however, large-scale and multi-parties data training and analyses are infeasible due to the privacy and data security concerns. In this paper, we propose an extendable and elastic learning framework to preserve privacy and security while enabling collaborative learning with efficient communication. The proposed framework is named distributed Asynchronized Discriminator Generative Adversarial Networks (AsynDGAN), which consists of a centralized generator and multiple distributed discriminators. The advantages of our proposed framework are five-fold: 1) the central generator could learn the real data distribution from multiple datasets implicitly without sharing the image data; 2) the framework is applicable for single-modality or multi-modality data; 3) the learned generator can be used to synthesize samples for down-stream learning tasks to achieve close-to-real performance as using actual samples collected from multiple data centers; 4) the synthetic samples can also be used to augment data or complete missing modalities for one single data center; 5) the learning process is more efficient and requires lower bandwidth than other distributed deep learning methods.

연구 동기 및 목표

• HIPAA 및 GDPR과 같은 엄격한 프라이버시 및 데이터 보호 규정으로 인해 의료 기관 간 협업적 의료 영상 분석을 수행하는 데 도전하는 문제를 해결하기 위해.
• 원본 영상 데이터를 공유하지 않으면서도 환자 프라이버시를 해치지 않고 분산된 다중 모달리티 의료 영상 데이터셋에서 학습할 수 있도록 하기 위해.
• 단일 및 다중 모달리티 데이터 생성과 누락된 모달리티 보완을 모두 지원하는 확장성 있고 효율적인 프레임워크를 개발하기 위해.
• 원래의 비공개 데이터셋에 접근이 필요 없이도 세분화와 같은 후행 작업을 지원할 수 있는 합성 데이터 생성 파이프라인을 제공하기 위해.
• 기존의 피어드 학습 접근 방식에 비해 통신 오버헤드를 줄이고 효율성을 향상시키기 위해.

제안 방법

• 프레임워크는 중심화된 생성기와 여러 분산 판별기로 구성되며, 각 판별기는 현지 실재 데이터와 생성기로부터의 합성 데이터를 학습한다.
• 생성기는 실재 지역 데이터와 생성 샘플 간의 적대적 손실을 최소화하여 다중 기관 간의 공동 데이터 분포를 학습한다.
• 원시 데이터 프라이버시를 보존하기 위해, 노드 간에 전송되는 것은 합성 영상, 애너테이션(예: 세분화 마스크), 그리고 손실 기울기뿐이다.
• 각 기관에서 가용한 모달리티를 조건으로 생성기의 조건부 생성을 통해 다중 모달리티 학습을 지원하며, 일부 모달리티가 누락된 경우에도 작동한다.
• 프레임워크는 다양한 GAN 손실 함수(예: 워샤르스키 거리)와 네트워크 아키텍처와의 호환성과 확장성을 갖춘다.
• 누락된 모달리티 보완은 훈련된 생성기를 사용해 누락된 모달리티에 대한 합성 영상을 생성하고, 이를 후행 작업에서 실재 데이터를 보완하는 데 사용함으로써 달성된다.

실험 결과

연구 질문

• RQ1 원시 데이터를 공유하지 않고도 분산된 GAN 프레임워크가 다중 기관의 다중 모달리티 의료 영상의 공동 데이터 분포를 학습할 수 있는가?
• RQ2 분산되고 불완전한 데이터셋에서 훈련된 생성기가 후행 의료 영상 분석 작업을 지원할 수 있는 합성 영상을 얼마나 잘 생성할 수 있는가?
• RQ3 이 프레임워크가 생성한 합성 데이터가 지역적 또는 불완전한 실재 데이터로 학습하는 것에 비해 세분화 성능을 얼마나 향상시킬 수 있는가?
• RQ4 가용 데이터와 훈련된 생성기만을 사용하여 이 프레임워크가 의료 영상 데이터셋의 누락된 모달리티를 효과적으로 보완할 수 있는가?
• RQ5 이 프레임워크의 통신 효율성과 훈련 속도는 기존의 피어드 학습 또는 GAN 기반 접근 방식과 비교해 어떻게 다른가?

주요 결과

• AsynDGAN에서 생성된 합성 데이터만으로 훈련된 세분화 모델은 80.9±14.1의 Dice 스코어를 기록했으며, 이는 'Other' 기관의 실재 데이터로 훈련된 모델(Real-Other(n/a:T1c))과 동일한 성능을 보였다.
• CBICA 데이터셋에서 합성 T1c 영상을 사용해 누락된 모달리티를 보완한 결과, 세분화 Dice 스코어는 78.0±23.4에서 83.0±14.6으로 향상되었다.
• TCIA 데이터셋의 경우, 합성 Flair 생성으로 인해 Dice 스코어가 76.7±15.3에서 85.5±10.4로 향상되어, 누락된 모달리티 보완에서 뚜렷한 성능 향상을 보였다.
• 어느 기관에서라도 일부 모달리티(예: T2 또는 Flair)가 누락된 경우에도 다중 모달리티 합성 영상을 성공적으로 생성하여 데이터 이질성에 대한 강건성을 입증했다.
• 합성 데이터로 훈련된 모델의 성능는 실재 데이터로 훈련된 모델과 유사하여 생성 샘플의 정확성과 유용성을 입증했다.
• 원시 영상을 전송하지 않고도 기존의 전통적 피어드 학습 대비 통신 오버헤드를 줄였으며, 전송되는 것은 기울기와 합성 데이터뿐이었다.