[논문 리뷰] An Experimental Study of Data Heterogeneity in Federated Learning Methods for Medical Imaging

Liangqiong Qu, Niranjan Balachandar외 1명|arXiv (Cornell University)|2021. 07. 18.

Privacy-Preserving Technologies in Data참고 문헌 19인용 수 15

한 줄 요약

이 논문은 의료 영상에서의 데이터 이질성—데이터 수의 비균형, 레이블 분포의 비균형, 영상 획득 조건의 이질성—이 피어드 학습(federated learning)에 미치는 영향을 조사한다. 양적 비균형에 대비한 가중 평균, 레이블 비균형에 대비한 가중 손실, 그리고 FedAVG에서 배치 정규화 통계 평균화를 포함한 개선 전략을 제안하며, 다양한 의료 영상 데이터셋에서 이질적 조건 하에서도 모델 성능을 크게 향상시킨다.

ABSTRACT

Federated learning enables multiple institutions to collaboratively train machine learning models on their local data in a privacy-preserving way. However, its distributed nature often leads to significant heterogeneity in data distributions across institutions. In this paper, we investigate the deleterious impact of a taxonomy of data heterogeneity regimes on federated learning methods, including quantity skew, label distribution skew, and imaging acquisition skew. We show that the performance degrades with the increasing degrees of data heterogeneity. We present several mitigation strategies to overcome performance drops from data heterogeneity, including weighted average for data quantity skew, weighted loss and batch normalization averaging for label distribution skew. The proposed optimizations to federated learning methods improve their capability of handling heterogeneity across institutions, which provides valuable guidance for the deployment of federated learning in real clinical applications.

연구 동기 및 목표

• 다양한 데이터 이질성 유형—양적 비균형, 레이블 분포 비균형, 영상 획득 조건 비균형—이 의료 영상에서의 피어드 학습에 미치는 영향를 분석하기.
• 데이터 이질성의 정도가 증가함에 따라 피어드 학습 방법의 성능 저하를 평가하기.
• 실제 임상 환경에서 데이터 이질성으로 인한 성능 저하를 완화하기 위한 최적화 전략을 개발하고 검증하기.
• 다중 기관 의료 영상 응용 분야에서 피어드 학습을 구현하기 위한 실질적인 지침을 제공하기.

제안 방법

• ADNI 및 당뇨성 망막병변(Diabetic Retinopathy) 두 개의 의료 영상 데이터셋을 사용하여 FedSGD, FedAVG, CWT 세 가지 피어드 학습 방법을 평가하였다.
• 해상도, SNR, 노이즈 유형 등을 포함한 다양한 수준의 양적 비균형, 레이블 분포 비균형, 영상 획득 조건 비균형을 시뮬레이션한 데이터 분할을 구현하였다.
• 로컬 데이터 크기에 따라 클라이언트 기여도를 조정함으로써 데이터 수의 비균형 문제를 해결하기 위해 FedSGD에 가중 평균 전략을 제안하였다.
• 레이블 분포 비균형으로 인한 성능 저하를 완화하기 위해 FedAVG에 가중 손실 함수를 도입하였다.
• 학습 중 기관 간 배치 정규화(BN) 통계(평균 및 분산)를 평균화하도록 FedAVG를 수정하여 비균형에 기인한 성능 저하를 감소시켰다.
• 다양한 데이터 분할 및 영상 조건에서의 분석 실험을 통해 각 최적화 전략의 효과성을 검증하였다.

실험 결과

연구 질문

• RQ1 양적 비균형, 레이블 분포 비균형, 영상 획득 조건 비균형 등 증가하는 데이터 이질성이 의료 영상에서의 피어드 학습 모델 성능에 어떻게 영향을 미치는가?
• RQ2 모델 업데이트의 가중 평균화 전략이 피어드 학습에서 데이터 수의 비균형으로 인한 성능 저하를 어느 정도 완화할 수 있는가?
• RQ3 가중 손실 함수는 피어드 의료 영상 분류에서 레이블 분포 비균형 상황에서 모델 일반화 성능을 향상시킬 수 있는가?
• RQ4 FedAVG에서 기관 간 배치 정규화 통계를 평균화하면 영상 획득 조건 비균형 상황에서 모델의 강인성을 향상시킬 수 있는가?
• RQ5 다양한 이질성 유형이 실제 임상 의료 영상 피어드 학습 환경에서 모델 수렴과 정확도에 미치는 영향을 비교해보면 어떠한가?

주요 결과

• FedAVG에 가중 손실과 배치 정규화 통계 평균화를 적용한 결과, ADNI 데이터셋의 스플릿 4에서 표준 FedAVG에 비해 상대적으로 16.0% 향상된 테스트 정확도를 기록하였다.
• FedSGD에 대한 가중 평균 전략은 데이터 수의 비균형으로 인한 성능 저하를 효과적으로 복구하였으며, 데이터 크기가 다름에 따라 기관 간 모델 강인성을 향상시켰다.
• 레이블 분포 비균형은 모델 성능을 심각하게 떨어뜨렸지만, 제안된 가중 손실 전략이 이 영향을 상당 부분 완화시켰으며, 특히 균형이 깨진 데이터 분할에서 두드러진 효과를 보였다.
• FedAVG에서 기관 간 배치 정규화 통계 평균화는 BN 레이어의 비균형에 기인한 정확도 저하를 감소시켰으며, 표준 BN 평균화보다 우수했고, 그룹 정규화의 효과적인 대체 수단이 되었다.
• 영상 획득 비균형, 특히 해상도 및 노이즈 변동은 뚜렷한 성능 저하를 유발하였으며, 실제 스캐너 제조사 기반 분할에서 가장 심각한 성능 저하가 관찰되었다.
• FedAVG에서 가중 손실과 BN 통계 평균화의 조합은 ADNI 및 Retina 데이터셋 모두에서 뛰어난 성능을 보였으며, 다양한 의료 영상 작업에 걸쳐 효과성을 입증하였다.