[논문 리뷰] Practical Challenges in Differentially-Private Federated Survival Analysis of Medical Data

Shadi Rahimian, Raouf Kerkouche외 2명|arXiv (Cornell University)|2022. 02. 08.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 소규모 의료 데이터셋을 위한 비밀 보장 연합 학습 생존 분석에서 수렴성과 성능을 향상시키는 DPFed-post라는 후처리 기법을 제안한다. 소수의 병원에서 제공하는 제한된 데이터 환경에서 표준 비밀 보장 연합 학습보다 최대 17% 높은 모델 유틸리티를 달성하기 위해 노이즈가 섞인 글로벌 모델 업데이트를 클리핑함으로써 성능을 향상시킨다.

ABSTRACT

Survival analysis or time-to-event analysis aims to model and predict the time it takes for an event of interest to happen in a population or an individual. In the medical context this event might be the time of dying, metastasis, recurrence of cancer, etc. Recently, the use of neural networks that are specifically designed for survival analysis has become more popular and an attractive alternative to more traditional methods. In this paper, we take advantage of the inherent properties of neural networks to federate the process of training of these models. This is crucial in the medical domain since data is scarce and collaboration of multiple health centers is essential to make a conclusive decision about the properties of a treatment or a disease. To ensure the privacy of the datasets, it is common to utilize differential privacy on top of federated learning. Differential privacy acts by introducing random noise to different stages of training, thus making it harder for an adversary to extract details about the data. However, in the realistic setting of small medical datasets and only a few data centers, this noise makes it harder for the models to converge. To address this problem, we propose DPFed-post which adds a post-processing stage to the private federated learning scheme. This extra step helps to regulate the magnitude of the noisy average parameter update and easier convergence of the model. For our experiments, we choose 3 real-world datasets in the realistic setting when each health center has only a few hundred records, and we show that DPFed-post successfully increases the performance of the models by an average of up to $17\%$ compared to the standard differentially private federated learning scheme.

연구 동기 및 목표

• 소수의 의료 기관에서 제공하는 소규모 의료 데이터셋을 기반으로 생존 모델을 학습할 때 비밀 보장 연합 학습에서 수렴성이 열 劣하는 문제를 해결하기 위해.
• 제한된 데이터와 개인정보 보호 요구 조건이라는 현실적인 제약 하에서 연합 생존 분석의 실용적 타당성과 성능을 평가하기 위해.
• 클라이언트 수준의 비밀 보장 연합 학습에서 모델 유틸리티를 향상시키기 위해, 노이즈가 섞인 글로벌 업데이트를 안정화시키는 후처리 단계를 도입하기 위해.
• 단일 데이터 센터당 수백 건의 기록만 있는 다양한 실제 의료 생존 데이터셋에서 일관된 성능 향상을 입증하기 위해.

제안 방법

• 클라이언트 수준의 비밀 보장 연합 학습에서 집계 후 노이즈가 섞인 글로벌 모델 업데이트의 크기를 클리핑하는 후처리 기법인 DPFed-post를 제안한다.
• 클라이언트 수준에서 비밀 보장을 적용하여, 각 병원의 전체 데이터셋이 클라이언트 샘플링 확률에 비례하는 노이즈를 주입함으로써 보호되도록 보장한다.
• 클리핑을 정규화 방법으로 활용하여 학습률을 제어하고, 비밀 보장에서 유래한 높은 노이즈 상황에서도 학습을 안정화시킨다.
• 표준 연합 학습 파이프라인에 후처리 단계를 통합하여, 집계 후 글로벌 모델 업데이트 단계만 수정한다.
• 제한된 데이터(각 센터당 수백 건)와 소수의 참여 병원을 가진 세 개의 실제 의료 생존 분석 데이터셋에서 방법을 평가한다.

실험 결과

연구 질문

• RQ1 제한된 데이터와 소수의 의료 기관에서만 데이터를 제공할 경우, 클라이언트 수준의 비밀 보장이 연합 생존 분석의 수렴성과 성능에 어떤 영향을 미치는가?
• RQ2 노이즈가 섞인 글로벌 모델 업데이트를 후처리함으로써 비밀 보장 보장을 해치지 않으면서도 모델 유틸리티를 향상시킬 수 있는가?
• RQ3 DPFed-post는 제한된 데이터를 가진 다양한 실제 의료 생존 데이터셋에서 모델 성능에 어떤 영향을 미치는가?
• RQ4 제안된 방법은 소규모 데이터 연합 학습 환경에서 성능 격차를 줄이고 안정성을 향상시키는 데 어떻게 기여하는가?

주요 결과

• DPFed-post는 다양한 실제 의료 생존 데이터셋에서 표준 비밀 보장 연합 학습 대비 평균 17% 향상된 모델 성능을 달성한다.
• 이 방법은 다양한 생존 모델과 데이터셋에서 모델 유틸리티를 일관되게 향상시키고 성능 변동성을 감소시킨다.
• 집계 후 노이즈가 섞인 업데이트를 클리핑함으로써 학습을 안정화시키고, 클라이언트 수준의 비밀 보장에서 유도된 높은 노이즈 수준에서도 수렴을 가능하게 한다.
• 표준 DPFL이 수렴하지 못하는 현실적인 환경(10개 병원, 센터당 500~1000건의 기록)에서도 이 방법은 효과적으로 작동한다.
• 후처리 단계는 대규모 DP 노이즈 상황에서도 학습률을 효과적으로 관리하는 암묵적 정규화 형태로 작용한다.